广告
返回顶部
首页 > 资讯 > 前端开发 > JavaScript >JS超出精度数字问题的解决方法
  • 937
分享到

JS超出精度数字问题的解决方法

2024-04-02 19:04:59 937人浏览 薄情痞子
摘要

精度问题最通俗易懂的解释 比如一个数 1÷3=0.33333333...... 大家都知道3会一直无限循环,数学可以表示,但是计算机要存储,方便下次取出来再使用,但0.333333

精度问题最通俗易懂的解释

比如一个数 1÷3=0.33333333...... 大家都知道3会一直无限循环,数学可以表示,但是计算机要存储,方便下次取出来再使用,但0.333333...... 这个数 无限循环,你让计算机怎么存储?计算机再大的内存它也存不下,对吧! 所以不能存储一个相对于数学来说的值,只能存储一个近似值,所以当计算机存储后再取出来用时就会出现精度问题。

js超出精度数字解决

一、js 最大安全数字是 Math.pow(2,53) - 1,超出这个数字相加会出现精度丢失问题,可通过将数字转换为字符串操作的思路处理,如下:


// js 最大安全数字: Math.pow(2, 53)-1

let a = '123456444565456.889'
let b =       '121231456.32'
// a + b = '123456565796913.209'

function addTwo(a, b) {
    //1.比较两个数长度  然后短的一方前面补0
    if (a.length > b.length) {
        let arr = Array(a.length - b.length).fill(0);
        b = arr.join('') + b
    } else if (a.length < b.length) {
        let arr = Array(b.length - a.length).fill(0);
        a = arr.join('') + a
    }

    //2.反转两个数 (这里是因为人习惯从左往右加 而数字相加是从右到左 因此反转一下比较好理解)
    a = a.split('').reverse();
    b = b.split('').reverse();

    //3.循环两个数组  并进行相加  如果和大于10 则 sign = 1,当前位置的值为(和%10)
    let sign = 0;//标记 是否进位
    let newVal = [];//用于存储最后的结果
    for (let j = 0; j < a.length; j++) {
        let val = a[j] / 1 + b[j] / 1 + sign; //除1是保证都为数字 这里也可以用Number()
        if (val >= 10) {
            sign = 1;
            newVal.unshift(val % 10) //这里用unshift而不是push是因为可以省了使用reverse
        } else {
            sign = 0;
            newVal.unshift(val)
        }
    }

    // 最后一次相加需要向前补充一位数字 ‘1'
    return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('')
}


// 参考其他朋友的精简写法
function addTwo(a,b) {
    let temp = 0
    let res = ''
    a = a.split('')
    b = b.split('')
    while(a.length || b.length || temp) {
        temp += Number(a.pop() || 0) + Number(b.pop() || 0)
        res = (temp%10) + res
        temp = temp > 9
    }
    return res.replace(/^0+/g, '')
}

二、当涉及到带有小数部分相加时,对上面方法进行一次封装,完整实现如下:


let a = '123456444565456.889'
let b =       '121231456.32'
// a + b = '123456565796913.209'

function addTwo(a = '0',b = '0', isHasDecimal=false) {
    //1.比较两个数长度  然后短的一方前面补0
    if (a.length > b.length) {
        let arr = Array(a.length - b.length).fill(0);
        b = isHasDecimal && (b + arr.join('')) || arr.join('') + b
    } else if (a.length < b.length) {
        let arr = Array(b.length - a.length).fill(0);
        a = isHasDecimal && (a + arr.join('')) || arr.join('') + a
    }

    //2.反转两个数 (这里是因为人习惯从左往右加 而数字相加是从右到左 因此反转一下比较好理解)
    a = a.split('').reverse();
    b = b.split('').reverse();


    //3.循环两个数组  并进行相加  如果和大于10 则 sign = 1,当前位置的值为(和%10)
    let sign = 0;//标记 是否进位
    let newVal = [];//用于存储最后的结果
    for (let j = 0; j < a.length; j++) {
        let val = a[j] / 1 + b[j] / 1 + sign; //除1是保证都为数字 这里也可以用Number()
        if (val >= 10) {
            sign = 1;
            newVal.unshift(val % 10) //这里用unshift而不是push是因为可以省了使用reverse
        } else {
            sign = 0;
            newVal.unshift(val)
        }
    }

    // 最后一次相加需要向前补充一位数字 ‘1'
    return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('')
}

function add(a,b) {
    let num1 = String(a).split('.')
    let num2 = String(b).split('.')
    let intSum = addTwo(num1[0], num2[0])
    let res = intSum

    if (num1.length>1 || num2.length > 1) {
        let decimalSum = addTwo(num1[1], num2[1], true)

        if (decimalSum.length > (num1[1]||'0').length && decimalSum.length > (num2[1]||'0').length) {
            intSum = addTwo(intSum, decimalSum[0])
            decimalSum = decimalSum.slice(1)
            res = `${intSum}.${decimalSum}`
        } else {
            res = `${intSum}.${decimalSum}`
        }
    }
    return res
}
console.log(add(a, b)) // 123456565796913.209
// console.log(add('325', '988')) // 1313

看一些JS数字精度丢失的一些典型问题

// 加法 =====================
0.1 + 0.2 = 0.30000000000000004
0.7 + 0.1 = 0.7999999999999999
0.2 + 0.4 = 0.6000000000000001

// 减法 =====================
1.5 - 1.2 = 0.30000000000000004
0.3 - 0.2 = 0.09999999999999998
 
// 乘法 =====================
19.9 * 100 = 1989.9999999999998
0.8 * 3 = 2.4000000000000004
35.41 * 100 = 3540.9999999999995

// 除法 =====================
0.3 / 0.1 = 2.9999999999999996
0.69 / 10 = 0.06899999999999999

总结

到此这篇关于JS超出精度数字问题解决的文章就介绍到这了,更多相关JS超出精度数字内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: JS超出精度数字问题的解决方法

本文链接: https://www.lsjlt.com/news/131325.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • JS超出精度数字问题的解决方法
    精度问题最通俗易懂的解释 比如一个数 1÷3=0.33333333...... 大家都知道3会一直无限循环,数学可以表示,但是计算机要存储,方便下次取出来再使用,但0.333333...
    99+
    2022-11-12
  • JS如何解决超出精度数字的问题
    这篇文章主要为大家展示了“JS如何解决超出精度数字的问题”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“JS如何解决超出精度数字的问题”这篇文章吧。精度问题最通俗易懂的解释比如一个数 1÷3=0....
    99+
    2023-06-20
  • js浮点数精度丢失的问题及解决方法
    本篇内容介绍了“js浮点数精度丢失的问题及解决方法”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!说明在数学计算中,小数会有一定的误差,这是计...
    99+
    2023-06-20
  • JS中浮点数精度问题的分析与解决方法
    目录前言问题的发现浮点数运算后的精度问题toFixed奇葩问题为什么会产生浮点数的存储浮点数的运算解决方法解决toFixed解决浮点数运算精度附:JS浮点数精度问题的一些实用建议总结...
    99+
    2022-11-13
  • 一文教会你解决js数字精度丢失问题
    目录一、关于为什么要解决精度丢失二、怎么解决js的计算精度丢失问题?三、toPrecision 特定方法返回四舍五入长度字符串结语一、关于为什么要解决精度丢失 可以看下例子,因为js...
    99+
    2022-11-13
  • JS数字精度丢失的原因及解决方案
    目录前言精度丢失原因如何将整数从十进制转换为二进制将小数从十进制转换为二进制解决方案第三方库Decimalbignumber变成整数总结前言 在JavaScript中计算两个十进制数...
    99+
    2022-11-13
  • JS中toFixed()方法四舍五入的精度问题详解
    目录踩的坑 填坑方法 什么样的坑? 总结踩的坑 最近工作中,在计算一个商品的折扣价格,有时候总是出现价格会有一分钱的差异,涉及钱的问题都是比较敏感的,经过排查,最后发现竟然是 JS...
    99+
    2022-11-12
  • 利用Math.js解决JS计算小数精度丢失问题
    目录缘由问题的原因最通俗的解释解决方案 - Math.js安装封装使用附:math.js 大数功能总结缘由 最近在做公司的一个点餐H5项目需要前端动态计算用户选的商品的总价(单价*数...
    99+
    2022-11-13
  • Golang浮点数精度丢失问题扩展包的解决方法
    小编给大家分享一下Golang浮点数精度丢失问题扩展包的解决方法,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!PS: 今天在做项目进行精度处理的时候出现精度丢失问题,在这里跟大家分享下扩展包解决方案, 注意:这个问题是可能...
    99+
    2023-06-08
  • 解决页面js接受Long型损失精度问题(最新解决方案)
    目录一、场景描述二、问题分析三、解决方法一、场景描述 在下面这个后台管理中,当我们点击禁用后,会向服务器发送一个请求,同时携带这个员工的19位数字的id。  请求方式为...
    99+
    2023-03-09
    js接受Long型损失精度 js接受Long型
  • double类型精度丢失问题以及解决方法
    double类型精度丢失问题: (1)加法运算。 public static void main(String[] args) {double number1 = 1;double number2 = 20.2;double number3...
    99+
    2023-09-07
    java android
  • 详解超星脚本出现乱码问题的解决方法(Python)
    这种情况在挂载脚本后无法答题,任何关于答题脚本的脚本都无法使用。 看这个字体,已经读不出原文了,一开始以为是加密尝试使用加密算法破解,然后用BP、其他工具尝试解码无果。 之后尝试用...
    99+
    2022-11-11
  • Redis SortedSet结构score字段丢失精度问题解决办法是什么
    这期内容当中小编将会给大家带来有关Redis SortedSet结构score字段丢失精度问题解决办法是什么,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。一、问题现象项目...
    99+
    2022-10-19
  • springboot中使用FastJson解决long类型在js中失去精度的问题
    目录使用FastJson解决long类型在js中失去精度问题1.pom中需要将默认的jackson排除掉2.利用fastJson替换掉jacksonspringboot long精度...
    99+
    2022-11-13
  • 解决JS问题的ES6方法有哪些
    本篇内容介绍了“解决JS问题的ES6方法有哪些”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!1、如何隐藏所...
    99+
    2022-10-19
  • C语言中浮点数的精度丢失问题解决
    目录一 先来看一段代码运行结果:二 如何解决(1)浮点数的大小比较(2)含浮点数的表达式和0.0的比较总结一 先来看一段代码 #include<stdio.h> int ...
    99+
    2022-11-12
  • 解决Python出现_warn_unsafe_extraction问题的方法
    在Python项目中运行出现了“AttributeError: ResourceManager instance has no attribute ‘_warn_unsafe_extraction'”问题,...
    99+
    2022-06-04
    方法 Python _warn_unsafe_extraction
  • iOS浮点类型精度问题的原因与解决办法
    目录前言如何解决浮点型精度问题四舍五入处理更优的解决方案精度丢失的原因浮点类型的存储方式有效位数指数的存储方式:移位存储double类型总结:输出结果丢失精度原因前言 相信不少人(其...
    99+
    2022-11-13
  • 超出MySQL最大连接数的问题怎么解决
    今天小编给大家分享的是超出MySQL最大连接数的问题怎么解决,相信很多人都不太了解,为了让大家更加了解,所以给大家总结了以下内容,一起往下看吧。一定会有所收获的哦。超出MySQL最大连接数问题如果遇到MySQ连接数超出最大限制了,不要慌,往...
    99+
    2023-07-06
  • 如何解决js数字计算误差的问题
    这篇文章主要为大家展示了“如何解决js数字计算误差的问题”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“如何解决js数字计算误差的问题”这篇文章吧。实例如下://...
    99+
    2022-10-19
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作