iis服务器助手广告广告
返回顶部
首页 > 资讯 > 后端开发 > GO >Golang处理浮点数遇到的精度问题怎么解决
  • 924
分享到

Golang处理浮点数遇到的精度问题怎么解决

2023-06-29 06:06:45 924人浏览 泡泡鱼
摘要

这篇文章主要介绍“golang处理浮点数遇到的精度问题怎么解决”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“Golang处理浮点数遇到的精度问题怎么解决”文章能帮助大家解决问题。一、浮点数是什么?浮

这篇文章主要介绍“golang处理浮点数遇到的精度问题怎么解决”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“Golang处理浮点数遇到的精度问题怎么解决”文章能帮助大家解决问题。

一、浮点数是什么?

浮点数,是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数。浮点数在计算机中主要用来表示小数,浮点数就是小数点可以出现改变的数字。

因为在计算机的机器语言中,只有二进制,机器语言只能识别0和1。所以,计算机也是不可能存储小数的,所以需要有另一种变通的存储方案。
这种方案就是:

1.指数方案

指数形式:其数值部分是一个小数,小数点前的数字是零,小数点后的第一位数字不是零。一个实数可以有多种指数表示形式,但只有一种属于标准化指数形式。

  
12.31.23*10^-1
1.231.23*10^0
1.230.123*10^1

上面的表格,我们可以很清晰的了解指数方案。同样的我们也就能发现这样表达小数会有一个严重的问题,那就是指数表示形式太多了,如果不能约定好唯一形式,不同代码之间沟通将会出现问题。

2.规范化指数形式

在指数形式的多种表示方式中把小数部分中小数点前的数字为0、小数点后第1位数字不为0的表示形式称为规范化的指数形式。

23 的规范化的指数形式 0.123*10^1

一个实数只有一个规范化的指数形式,在程序以指数形式输出一个实数时,必然以规范化的指数形式输出。

0.123e001

为什么要以 0 开头

23456要二进制存放需分别存整数部和小数部,而0.123456则只需存小数部,这样在占用相同字节的情况下,后一种方法可容纳更大精度的浮点数。

为什么 e 后面要加 0 ,e001 和 e1 一样吗

后面加 0 是 %e 的输出格式,并不是规范化的指数形式所必需的,
e001 和 e1 是一样的

3.IEEE 754标准

由于不同机器对浮点数的表示有较大差别,这不利于软件在不同计算机之间的移植。为此,美国IEEE提出了一个从系统角度支持浮点数的表示方法,称为IEEE754标准(IEEE,1985),当今流行的计算机几乎都采用了这一标准。

IEEE 754规定了四种表示浮点数值的方式:单精确度(32位)、双精确度(64位)、延伸单精确度(43比特以上,很少使用)与延伸双精确度(79比特以上,通常以80位实现)。只有32位模式有强制要求,其他都是选择性的。

二、出现精度问题的情况

1.浮点数加减运算

输入数据:

a = 2.3329 b = 3.1234

代码如下(示例):

package mainimport "fmt"func main() {// a = 2.3329 b = 3.1234a, b := 2.3329, 3.1234c := a + bfmt.Println(c) //5.456300000000001}}

结果精度出现问题
2.3329 + 3.1234 = 5.456300000000001
已经出错

2.float64与float32之间转换

输入数据:

a = 9.99999

代码如下(示例):

package mainimport "fmt"func main() {var a float32a = 9.99999b := float64(a)fmt.Println(b) //9.999990463256836}}

结果精度出现问题
9.99999 = 9.999990463256836
已经出错

3.int64和float64,int32和float32转换

int32和float32转换

输入数据:

a = 9.99999

代码如下(示例):

package mainimport "fmt"func main() {var a int32a = 999990455b := float32(a)fmt.Printf("%f\n", b) //999990464.000000}}

结果精度出现问题
999990455= 999990464.000000
已经出错

int64和float64转换

输入数据:

a = 999999942424527242

代码如下(示例):

package mainimport "fmt"func main() {var a int64a = 999999942424527242b := float64(a)fmt.Printf("%f\n", b) //999999942424527232.000000}}

结果精度出现问题
999999942424527242 = 999999942424527232.000000
已经出错

4.float64位直接乘100

输入数据:

a = 999999942424527242

代码如下(示例):

package mainimport "fmt"func main() {var a float64a = 1128.61b := a * 100fmt.Println(b) //112860.99999999999}}

结果精度出现问题
1128.61 * 100= 112860.99999999999
已经出错

三、decimal 解决精度问题

利用 Decimal 包解决精度问题

 go get GitHub.com/shopspring/decimal

1.浮点数加减运算

输入数据:

a = 2.3329 b = 3.1234

代码如下(示例):

package mainimport ("fmt""github.com/shopspring/decimal")func main() {// a = 2.3329 b = 3.1234a, b := 2.3329, 3.1234c := decimal.NewFromFloat(a)d := decimal.NewFromFloat(b)fmt.Println(a, b)fmt.Println(c, d)fmt.Println("此时ab 与 cd 相同")fmt.Println(a + b)    //5.456300000000001}fmt.Println(c.Add(d)) //5.4563}}

结果精度不再出现问题

Golang处理浮点数遇到的精度问题怎么解决

2.float64与float32之间转换

输入数据:

a = 9.99999

代码如下(示例):

package mainimport ("fmt""github.com/shopspring/decimal")func main() {var a float32a = 9.99999c := decimal.NewFromFloat32(a)b := float64(a)c.Float64()fmt.Println(b) //9.999990463256836}fmt.Println(c.Float64()) //9.99999}}

结果精度不再出现问题

Golang处理浮点数遇到的精度问题怎么解决

3.float64位直接乘100

输入数据:

a = 999999942424527242

代码如下(示例):

package mainimport ("fmt""github.com/shopspring/decimal")func main() {var a float64a = 1128.61c := decimal.NewFromFloat(a)b := a * 100fmt.Println(b) //112860.99999999999}fmt.Println(c.Mul(decimal.NewFromInt(100))) //112861}}

结果精度不再出现问题

Golang处理浮点数遇到的精度问题怎么解决

关于“Golang处理浮点数遇到的精度问题怎么解决”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识,可以关注编程网GO频道,小编每天都会为大家更新不同的知识点。

您可能感兴趣的文档:

--结束END--

本文标题: Golang处理浮点数遇到的精度问题怎么解决

本文链接: https://www.lsjlt.com/news/323127.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Golang处理浮点数遇到的精度问题怎么解决
    这篇文章主要介绍“Golang处理浮点数遇到的精度问题怎么解决”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“Golang处理浮点数遇到的精度问题怎么解决”文章能帮助大家解决问题。一、浮点数是什么?浮...
    99+
    2023-06-29
  • Golang处理浮点数遇到的精度问题(使用decimal)
    目录一、浮点数是什么?1.指数方案2.规范化指数形式3.IEEE754标准二、出现精度问题的情况1.浮点数加减运算2.float64与float32之间转换3.int64和float...
    99+
    2024-04-02
  • Golang浮点数精度丢失问题扩展包的解决方法
    小编给大家分享一下Golang浮点数精度丢失问题扩展包的解决方法,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!PS: 今天在做项目进行精度处理的时候出现精度丢失问题,在这里跟大家分享下扩展包解决方案, 注意:这个问题是可能...
    99+
    2023-06-08
  • python浮点数运算精度问题如何解决
    在Python中,浮点数运算可能存在精度问题,可以采取以下方法解决:1. 使用Decimal模块:Decimal模块提供了精确的十进...
    99+
    2023-08-26
    python
  • C语言中浮点数的精度丢失问题解决
    目录一 先来看一段代码运行结果:二 如何解决(1)浮点数的大小比较(2)含浮点数的表达式和0.0的比较总结一 先来看一段代码 #include<stdio.h> int ...
    99+
    2024-04-02
  • js浮点数精度丢失的问题及解决方法
    本篇内容介绍了“js浮点数精度丢失的问题及解决方法”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!说明在数学计算中,小数会有一定的误差,这是计...
    99+
    2023-06-20
  • 处理 Golang 中的数值精度问题
    Golang 中的精度丢失现象及处理策略 在使用编程语言 Golang 进行数值计算时,我们常常会遇到精度丢失的问题。这种问题可能会导致计算结果不准确,影响程序运行的正确性。本文将探讨...
    99+
    2024-02-25
    golang 处理策略 精度丢失
  • ES业务数据迁移遇到的BUG精度问题怎么解决
    这篇文章主要讲解了“ES业务数据迁移遇到的BUG精度问题怎么解决”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“ES业务数据迁移遇到的BUG精度问题怎么解决”吧!01 问题发现过程通过前期的方...
    99+
    2023-07-02
  • JS中浮点数精度问题的分析与解决方法
    目录前言问题的发现浮点数运算后的精度问题toFixed奇葩问题为什么会产生浮点数的存储浮点数的运算解决方法解决toFixed解决浮点数运算精度附:JS浮点数精度问题的一些实用建议总结...
    99+
    2024-04-02
  • Python中的浮点数计算精度问题是如何解决的?
    Python中的浮点数计算精度问题是如何解决的?在计算机科学中,浮点数计算精度问题是常见的挑战之一。由于计算机内部使用有限的比特位来表示浮点数,所以对于某些小数的表示和运算时,可能会出现精度损失的情况。Python作为一门强大的编程语言,提...
    99+
    2023-10-22
    解决 浮点数 精度
  • 如何解决C语言中浮点数的精度丢失问题
    小编给大家分享一下如何解决C语言中浮点数的精度丢失问题,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!一 先来看一段代码#include<stdio.h>...
    99+
    2023-06-26
  • 解决Pytorch半精度浮点型网络训练的问题
    用Pytorch1.0进行半精度浮点型网络训练需要注意下问题: 1、网络要在GPU上跑,模型和输入样本数据都要cuda().half() 2、模型参数转换为half型,不必索引到每层...
    99+
    2024-04-02
  • iOS浮点类型精度问题的原因与解决办法
    目录前言如何解决浮点型精度问题四舍五入处理更优的解决方案精度丢失的原因浮点类型的存储方式有效位数指数的存储方式:移位存储double类型总结:输出结果丢失精度原因前言 相信不少人(其...
    99+
    2024-04-02
  • iOS浮点类型精度问题的原因与解决办法是什么
    这篇文章主要为大家分析了iOS浮点类型精度问题的原因与解决办法是什么的相关知识点,内容详细易懂,操作细节合理,具有一定参考价值。如果感兴趣的话,不妨跟着跟随小编一起来看看,下面跟着小编一起深入学习“iOS浮点类型精度问题的原因与解决办法是什...
    99+
    2023-06-29
  • ES业务数据迁移遇到的精度问题BUG
    目录前言01 问题发现过程02 问题的根因是什么03 类似的问题有哪些千年虫问题:2038 年问题:04 小结前言 最近在协助团队完成 ES 数据的切换(业务数据迁移),过程中遇到一...
    99+
    2024-04-02
  • java精度问题怎么解决
    在Java中,处理浮点数的精度问题可以使用BigDecimal类来解决。BigDecimal类提供了精确的数值计算,可以避免浮点数的...
    99+
    2023-08-16
    java
  • php处理浮点数、精度运算、数字处理的示例分析
    这篇文章将为大家详细讲解有关php处理浮点数、精度运算、数字处理的示例分析,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。 前言 php浮点类型数字进行运算 稍微不留神就会出现偏差 特别是金融行业...
    99+
    2023-06-15
  • Python中的浮点数计算精度问题的原因和解决方案有哪些?
    Python中的浮点数计算精度问题的原因和解决方案有哪些?在进行浮点数计算时,我们经常会遇到精度问题。这是由于计算机采用二进制来表示浮点数,而不是十进制。由于二进制无法准确表示一些十进制小数,导致了浮点数计算的精度问题。一、浮点数计算精度问...
    99+
    2023-10-22
    解决方案 (solution) 浮点数 (float) 精度问题 (precision issue)
  • PHP浮点数运算精度失真问题的深入分析
    PHP作为一种脚本语言在Web开发中使用广泛,其灵活性和易用性受到众多开发者的青睐。然而,在使用PHP进行浮点数运算时,经常会遇到精度失真的问题,这给开发过程带来一定的挑战。本文将对P...
    99+
    2024-02-27
    php 浮点数 精度
  • 解决PHP浮点数计算精度丢失的方法
    解决PHP浮点数计算精度丢失的方法 在PHP中,由于浮点数的本质是二进制表示,会导致在进行计算时出现精度丢失的问题。这种问题在一些对精度要求较高的场景下就显得尤为重要。为了避免由于浮点...
    99+
    2024-02-27
    解决方法 php浮点数 计算精度
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作