iis服务器助手广告广告
返回顶部
首页 > 资讯 > 前端开发 > html >如何进行JavaScript 浮点数及运算精度调整
  • 472
分享到

如何进行JavaScript 浮点数及运算精度调整

2024-04-02 19:04:59 472人浏览 安东尼
摘要

本篇文章为大家展示了如何进行javascript 浮点数及运算精度调整,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。JavaScript 只有一种数字类型 Numb

本篇文章为大家展示了如何进行javascript 浮点数及运算精度调整,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

JavaScript 只有一种数字类型 Number,而且在Javascript中所有的数字都是以IEEE-754标准格式表示的。浮点数的精度问题不是JavaScript特有的,因为有些小数以二进制表示位数是无穷的

十进制       二进制 0.1              0.0001 1001 1001 1001 … 0.2              0.0011 0011 0011 0011 … 0.3              0.0100 1100 1100 1100 … 0.4              0.0110 0110 0110 0110 … 0.5              0.1 0.6              0.1001 1001 1001 1001 …

所以比如 1.1,其程序实际上无法真正的表示 ‘1.1′,而只能做到一定程度上的准确,这是无法避免的精度丢失:1.09999999999999999

在JavaScript中问题还要复杂些,这里只给一些在Chrome中测试数据:

console.log(1.0-0.9 == 0.1)    //false console.log(1.0-0.8 == 0.2)    //false console.log(1.0-0.7 == 0.3)    //false console.log(1.0-0.6 == 0.4)    //true console.log(1.0-0.5 == 0.5)    //true console.log(1.0-0.4 == 0.6)    //true console.log(1.0-0.3 == 0.7)    //true console.log(1.0-0.2 == 0.8)    //true console.log(1.0-0.1 == 0.9)    //true

那如何来避免这类 1.0-0.9 != 0.1 的非bug型问题发生呢?下面给出一种目前用的比较多的解决方案, 在判断浮点运算结果前对计算结果进行精度缩小,因为在精度缩小的过程总会自动四舍五入:

(1.0-0.9).toFixed(digits)  // toFixed() 精度参数digits须在0与20之间 console.log(parseFloat((1.0-0.9).toFixed(10)) === 0.1)   //true console.log(parseFloat((1.0-0.8).toFixed(10)) === 0.2)    //true console.log(parseFloat((1.0-0.7).toFixed(10)) === 0.3)    //true console.log(parseFloat((11.0-11.8).toFixed(10)) === -0.8)   //true

写成一个方法:

//通过isEqual工具方法判断数值是否相等 function isEqual(number1, number2, digits){   digits = digits == undefined? 10: digits; // 默认精度为10   return number1.toFixed(digits) === number2.toFixed(digits); } console.log(isEqual(1.0-0.7, 0.3));  //true //原型扩展方式,更喜欢面向对象的风格 Number.prototype.isEqual = function(number, digits){   digits = digits == undefined? 10: digits; // 默认精度为10   return this.toFixed(digits) === number.toFixed(digits); } console.log((1.0-0.7).isEqual(0.3)); //true

接下来,再来试试浮点数的运算,

console.log(1.79+0.12)  //1.9100000000000001 console.log(2.01-0.12)   //1.8899999999999997 console.log(1.01*1.3)    //1.3130000000000002 console.log(0.69/10)     //0.06899999999999999

解决方案:

//加法函数,用来得到精确的加法结果 //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 //调用:accAdd(arg1,arg2) //返回值:arg1加上arg2的精确结果 function accAdd(arg1,arg2){   var r1,r2,m;   try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}   try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}   m=Math.pow(10,Math.max(r1,r2))   return (arg1*m+arg2*m)/m } //给Number类型增加一个add方法,调用起来更加方便。 Number.prototype.add = function (arg){   return accAdd(arg,this); }  //减法函数,用来得到精确的减法结果 //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的减法结果。 //调用:accSub(arg1,arg2) //返回值:arg1减去arg2的精确结果 function accSub(arg1,arg2){   var r1,r2,m,n;   try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}   try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}   m=Math.pow(10,Math.max(r1,r2));   //last modify by deeka   //动态控制精度长度   n=(r1>=r2)?r1:r2;   return ((arg1*m-arg2*m)/m).toFixed(n); }
//除法函数,用来得到精确的除法结果 //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 //调用:accDiv(arg1,arg2) //返回值:arg1除以arg2的精确结果 function accDiv(arg1,arg2){   var t1=0,t2=0,r1,r2;   try{t1=arg1.toString().split(".")[1].length}catch(e){}   try{t2=arg2.toString().split(".")[1].length}catch(e){}   with(Math){     r1=Number(arg1.toString().replace(".",""))     r2=Number(arg2.toString().replace(".",""))     return (r1/r2)*pow(10,t2-t1);   } } //给Number类型增加一个div方法,调用起来更加方便。 Number.prototype.div = function (arg){   return accDiv(this, arg); }  //乘法函数,用来得到精确的乘法结果 //说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 //调用:accMul(arg1,arg2) //返回值:arg1乘以arg2的精确结果 function accMul(arg1,arg2) {   var m=0,s1=arg1.toString(),s2=arg2.toString();   try{m+=s1.split(".")[1].length}catch(e){}   try{m+=s2.split(".")[1].length}catch(e){}   return  Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } //给Number类型增加一个mul方法,调用起来更加方便。 Number.prototype.mul = function (arg){   return accMul(arg, this); } <br>//验证一下: console.log(accAdd(1.79, 0.12));  //1.91 console.log(accSub(2.01, 0.12));  //1.89 console.log(accDiv(0.69, 10));    //0.069<br>console.log(accMul(1.01, 1.3));   //1.313

改造之后,可以愉快地进行浮点数加减乘除操作了~

上述内容就是如何进行JavaScript 浮点数及运算精度调整,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注编程网html频道。

--结束END--

本文标题: 如何进行JavaScript 浮点数及运算精度调整

本文链接: https://www.lsjlt.com/news/86158.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • 如何进行JavaScript 浮点数及运算精度调整
    本篇文章为大家展示了如何进行JavaScript 浮点数及运算精度调整,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。JavaScript 只有一种数字类型 Numb...
    99+
    2024-04-02
  • python浮点数运算精度问题如何解决
    在Python中,浮点数运算可能存在精度问题,可以采取以下方法解决:1. 使用Decimal模块:Decimal模块提供了精确的十进...
    99+
    2023-08-26
    python
  • PHP浮点数运算精度失真问题的深入分析
    PHP作为一种脚本语言在Web开发中使用广泛,其灵活性和易用性受到众多开发者的青睐。然而,在使用PHP进行浮点数运算时,经常会遇到精度失真的问题,这给开发过程带来一定的挑战。本文将对P...
    99+
    2024-02-27
    php 浮点数 精度
  • javascript如何将浮点数转为整数
    本篇内容主要讲解“javascript如何将浮点数转为整数”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“javascript如何将浮点数转为整数”吧! ...
    99+
    2024-04-02
  • php处理浮点数、精度运算、数字处理的示例分析
    这篇文章将为大家详细讲解有关php处理浮点数、精度运算、数字处理的示例分析,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。 前言 php浮点类型数字进行运算 稍微不留神就会出现偏差 特别是金融行业...
    99+
    2023-06-15
  • c语言双精度浮点数如何表示
    C语言中的双精度浮点数使用 double 数据类型表示,占用 8 个字节(64 位)。其内部的表示方式遵循 IEEE 754 浮点数...
    99+
    2023-09-29
    c语言
  • Python中的浮点数计算精度问题是如何解决的?
    Python中的浮点数计算精度问题是如何解决的?在计算机科学中,浮点数计算精度问题是常见的挑战之一。由于计算机内部使用有限的比特位来表示浮点数,所以对于某些小数的表示和运算时,可能会出现精度损失的情况。Python作为一门强大的编程语言,提...
    99+
    2023-10-22
    解决 浮点数 精度
  • javascript如何进行求根运算
    这篇文章主要介绍了javascript如何进行求根运算的相关知识,内容详细易懂,操作简单快捷,具有一定借鉴价值,相信大家阅读完这篇javascript如何进行求根运算文章都会有所收获,下面我们一起来看看吧。...
    99+
    2024-04-02
  • javascript如何进行求幂运算
    今天小编给大家分享一下javascript如何进行求幂运算的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起...
    99+
    2024-04-02
  • Shell(())如何实现对整数进行数学运算
    这篇文章主要介绍“Shell(())如何实现对整数进行数学运算”,在日常操作中,相信很多人在Shell(())如何实现对整数进行数学运算问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Shell(())如何实现...
    99+
    2023-06-09
  • python浮点数运算问题如何解决
    在使用Python进行浮点数运算时,可能会遇到一些精度问题。这是因为计算机使用二进制来表示浮点数,而二进制无法精确地表示某些十进制小...
    99+
    2023-10-21
    python
  • 如何使用C#中的Math.Floor函数对浮点数进行向下取整
    如何使用C#中的Math.Floor函数对浮点数进行向下取整,需要具体代码示例概述:在C#中,Math.Floor函数可以对浮点数进行向下取整操作。本文将介绍Math.Floor函数的使用方法,并提供具体的代码示例来帮助读者更好地理解该函数...
    99+
    2023-11-18
    C# 向下取整 mathFloor
  • 如何使用C#中的Math.Truncate函数对浮点数进行向下取整
    如何使用C#中的Math.Truncate函数对浮点数进行向下取整,需要具体代码示例在C#编程中,经常会遇到需要对浮点数进行取整的情况。其中,向下取整是一种常见的操作,可以利用C#中的Math.Truncate函数实现。本文将详细介绍Mat...
    99+
    2023-11-18
    C# 浮点数 MathTruncate
  • Linux中如何进行数学运算
    这篇文章将为大家详细讲解有关Linux中如何进行数学运算,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。expr首先,对于在命令行使用命令进行数学运算,可能最容易想到、最常用的命令就是 expr (表达式e...
    99+
    2023-06-28
  • Golang中如何进行除法运算取整操作
    Golang除法运算中如何进行取整操作,需要具体代码示例 在Go语言中,除法运算符/用于计算两个数的商。但有时我们需要对结果进行取整操作,来得到整数部分或特定精度的小数部分。本文将介绍在Golang中如何进行...
    99+
    2024-01-29
    Golang 取整操作
  • 如何在Go语言中进行精确的整除和余数计算
    如何在Go语言中进行精确的整除和余数计算 在Go语言中进行整除和余数运算时,我们需要注意到在整数运算中会出现精度丢失的情况。为了确保得到精确的整除和余数,我们可以使用一些技巧和函数来实...
    99+
    2024-04-02
  • 如何解决C语言中浮点数的精度丢失问题
    小编给大家分享一下如何解决C语言中浮点数的精度丢失问题,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!一 先来看一段代码#include<stdio.h>...
    99+
    2023-06-26
  • JavaScript如何对字符串和数字进行加法运算
    本篇内容主要讲解“JavaScript如何对字符串和数字进行加法运算”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“JavaScript如何对字符串和数字进行加法...
    99+
    2024-04-02
  • 如何在Keras中进行超参数调整
    在Keras中进行超参数调整通常可以采取以下几种方法: 网格搜索(Grid Search):通过定义一组超参数的组合,然后在这些...
    99+
    2024-03-12
    Keras
  • css如何使用rem进行全局大小调整以及使用em进行局部大小调整
    这篇文章主要为大家展示了“css如何使用rem进行全局大小调整以及使用em进行局部大小调整”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“css如何使用rem进行全局大小调整以及使用em进行局部大...
    99+
    2023-06-27
软考高级职称资格查询
推荐阅读
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作