iis服务器助手广告广告
返回顶部
首页 > 资讯 > 数据库 >如何解决Mysql乘法除法精度不一致问题
  • 695
分享到

如何解决Mysql乘法除法精度不一致问题

2024-04-02 19:04:59 695人浏览 泡泡鱼
摘要

这篇文章主要介绍如何解决Mysql乘法除法精度不一致问题,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!问题今天在写项目功能的时候,有一个统计金额的情况,然后需要进行单位转换,所以写下

这篇文章主要介绍如何解决Mysql乘法除法精度不一致问题,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

问题

今天在写项目功能的时候,有一个统计金额的情况,然后需要进行单位转换,所以写下了大概如下功能的语句,但得到的数据为小数点后4位精度,正常我们只需要2位就足够。

select total_fee / 100 from orders

继续排查寻找资料,进行精度转换,找了一圈的资料都不太满意,继续进行测试

测试

测试bug和未知情况,我们一定要 最小复现,精简测试 ,防止其他语句对结果产生干扰。

select 1 / 100;
// 得到 0.0100
select 1 * 0.01;
// 得到 0.01

并且在3/4台设备上运行,不同mysql版本环境都是这样子的结果。

所以初步得知 Mysql中,乘法和除法对小数点后的精度不一致

在国内的论坛中没有找到合适的资料,于是到国外论坛寻找,提问,交流。

答案

首先感谢其他前辈对问题的解答和指点,我们也将尽量详细地记录问题的排查。

文明之所以能延续,是因为它们有记忆。希望文章也能帮到更多的朋友。

  • 除法的精度默认是小数点后4位

  • 乘法的精度使用 操作数的精度和 的方式来判断,如例子中的 1*0.01 精度分别是小数点后0位和2位,那么就是 0+2 =2 结果也将使用2位精度

测试

select 1.00 * 0.01;
// 结果 0.0100

符合上诉结论。感谢国外前辈指教。

除法使用2位精度

那么我们的问题 如果是要坚持用除法解决,我们可以使用函数来进行转换精度,

CAST( @x / @y AS DECIMAL(m,n) )

DECIMAL的参数可以百度看这个,基本创建过表结构的都能明白。

@x和@y就是除数和被除数。

同时我还提出疑问,是否能在mysql里设置默认除法精度,我们就可以不用每次sql都使用函数计算了。

前辈回复:如果你不想有时候出现出乎意料的情况,那么需要每次都强制使用类型转换。

mysql相关说明文献

https://dev.mysql.com/doc/refman/8.0/en/arithmetic-functions.html

 In division perfORMed with /, the scale of the result when using two exact-value operands is the scale of the first operand plus the value of the div_precision_increment system variable (which is 4 by default). For example, the result of the expression 5.05 / 0.014 has a scale of six decimal places (360.714286).

除法的精度规则

由上面引用的文献可知:当使用两个数值进行计算时,结果的精度由 第一个操作数的精度 + 系统变量div_precision_increment的值决定 ,如我们例子中的1 精度是0,系统变量精度是4位默认,所以得到的结果是4位精度

set div_precision_increment = 2;
// 再运行select 1 / 100; 得到 0.01 符合想要的结果

所以我们还可以通过修改默认变量,来改变除法的默认精度。

此时我们再测试

select 1.0 / 100;
// 结果 0.010 符合上文所述结论

以上是“如何解决Mysql乘法除法精度不一致问题”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注编程网数据库频道!

您可能感兴趣的文档:

--结束END--

本文标题: 如何解决Mysql乘法除法精度不一致问题

本文链接: https://www.lsjlt.com/news/56139.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • 如何解决Mysql乘法除法精度不一致问题
    这篇文章主要介绍如何解决Mysql乘法除法精度不一致问题,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!问题今天在写项目功能的时候,有一个统计金额的情况,然后需要进行单位转换,所以写下...
    99+
    2024-04-02
  • Java中BigDecimal除法使用不当导致精度问题
    目录I. 问题抛出 II. 源码定位 1. 整形传参构造 2. 浮点传参 3. String传参 4. 小结在使用BigDecimal的除法时,遇到一个鬼畜的问题,本以为的精度计算,...
    99+
    2024-04-02
  • Pytorch:dtype不一致问题如何解决
    这篇“Pytorch:dtype不一致问题如何解决”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“Pytorch:dtype不...
    99+
    2023-07-05
  • css怎么解决高度不一致问题
    这篇文章主要为大家展示了“css怎么解决高度不一致问题”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“css怎么解决高度不一致问题”这篇文章吧。 ...
    99+
    2024-04-02
  • Java与MySQL时间不一致问题解决
    目录一、问题情况描述二、CST时区混乱1. CST有四种含义2. 什么是时区三、绝对时间与本地时间1. 绝对时间2. 本地时间3. 时区偏移量四、MySQL服务端时区1. syste...
    99+
    2023-01-05
    Java与MySQL时间不一致 MySQL时间不一致
  • 如何解决BOX模型解释不一致问题
    小编给大家分享一下如何解决BOX模型解释不一致问题,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧! 在FF和IE中的BOX模型解...
    99+
    2024-04-02
  • 如何解决MySQL存储时间出现不一致的问题
    小编给大家分享一下如何解决MySQL存储时间出现不一致的问题,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!用Java在获取了系统时间后,存入MySQL数据库时,当时间的类型为datetime或Timestamp时发现数据库...
    99+
    2023-06-14
  • 解决Golang小数float64在实际工程中加减乘除的精度问题
    GO语言的float64类型在做加减乘除时会出现一些问题 比如乘法运算,实例,将小数的元转换成整数的分: 发现将小数的元乘以100后强制转换为整数分,少了1分 解决办法: v...
    99+
    2024-04-02
  • redis一致性问题如何解决
    Redis是一个内存数据库,是单进程单线程的,所以它没有复制和分布式的特性。因此,Redis本身并没有提供一致性的解决方案。然而,可...
    99+
    2023-08-20
    redis
  • redis主从数据不一致问题如何解决
    使用Redis的复制(Replication)功能来保证数据一致性。可以将主节点写入的数据同步到从节点,确保从节点的数据与主节点...
    99+
    2024-04-09
    redis
  • 如何解决mybatis中方法返回泛型与resultType不一致的问题
    这篇文章主要介绍“如何解决mybatis中方法返回泛型与resultType不一致的问题”,在日常操作中,相信很多人在如何解决mybatis中方法返回泛型与resultType不一致的问题问题上存在疑惑,小编查阅了各式资料,整理出简单好用的...
    99+
    2023-06-20
  • JS超出精度数字问题的解决方法
    精度问题最通俗易懂的解释 比如一个数 1÷3=0.33333333...... 大家都知道3会一直无限循环,数学可以表示,但是计算机要存储,方便下次取出来再使用,但0.333333...
    99+
    2024-04-02
  • 如何解决docker中mysql时间与系统时间不一致问题
    这篇文章将为大家详细讲解有关如何解决docker中mysql时间与系统时间不一致问题,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。最近在Docker中装mysql时,发现数据库时间与系统时间相差8个小时。...
    99+
    2023-06-22
  • MySQL中主从不一致如何解决
    MySQL中主从不一致如何解决,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。一、MySQL主从不同步情况1.1 网络的延迟由于mysql主从复...
    99+
    2024-04-02
  • php字符串长度不一致如何解决
    本篇内容主要讲解“php字符串长度不一致如何解决”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“php字符串长度不一致如何解决”吧!php字符串长度不一致的解决办法:1、通过mb_detect_e...
    99+
    2023-07-05
  • matlab中矩阵维度不一致如何解决
    在Matlab中,如果矩阵的维度不一致,可以使用以下方法进行解决:1. 确保矩阵的维度一致:通过查看矩阵的大小(使用size函数)或...
    99+
    2023-09-16
    matlab
  • 如何解决vue前后端端口不一致的问题
    本篇内容主要讲解“如何解决vue前后端端口不一致的问题”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“如何解决vue前后端端口不一致的问题”吧!vue前后端端口不一致在config  i...
    99+
    2023-06-20
  • double类型精度丢失问题以及解决方法
    double类型精度丢失问题: (1)加法运算。 public static void main(String[] args) {double number1 = 1;double number2 = 20.2;double number3...
    99+
    2023-09-07
    java android
  • redis双写一致性问题如何解决
    Redis双写一致性问题是指在使用Redis的主从复制机制时,由于主节点和从节点之间存在延迟或者网络故障等原因,导致主节点上的数据更...
    99+
    2024-04-02
  • BigDecimaldivide除法除不尽报错的问题及解决
    目录BigDecimal divide除法除不尽报错解决办法关于BigDecimal除法问题BigDecimal做除法时BigDecimal源码BigDecimal divide除法...
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作