Python 官方文档:入门教程 => 点击学习
目录问题解决总结前言: 今天下午跑单元测试报错,发现一个关于 new BigDecimal(double val) 的代码问题,总结下。 问题 业务代码: public stati
前言:
今天下午跑单元测试报错,发现一个关于 new BigDecimal(double val) 的代码问题,总结下。
业务代码:
public static boolean comparePrice(BigDecimal frontPrice, BigDecimal realPrice) {
return frontPrice.compareTo(realPrice) == 0;
}
测试代码:
BigDecimal forntPrice = new BigDecimal(0.2);
然后测试 comparePrice 方法总是返回 false,frontPrice 和 realPrice 明明是相等的, 都是0.2。
经过断点排查问题发现 frontPrice 的值不是 0.2,而是 0.200000000000000011102230246251565404236316680908203125 。
我靠,怎么出现这种情况,BigDecimal 不是精准运算的吗?
查看相关文档:
简单翻一下:
将 double 类型转换成 BigDecimal 类型。
new BigDecimal(0.1)
会创建一个刚好等于 0.1 的 BigDecimal,但它实际上等于 0.1000000000000000055511151231257827021181583404541015625 。这是因为 0.1 不能被精确地表示为一个双精度数。new BigDecimal("0.1")
会创建一个完全等于 0.1 的 BigDecimal,建议优先使用 String 构造函数。BigDecimal.valueOf(0.1)
,它返回的结果也是精确的。将 double 类型转换为 BigDecimal 类型的时候,不要使用new BigDecimal(0.1)
这个构造函数,应为它得到的结果是不精确的,
使用BigDecimal.valueOf(0.1)
或new BigDecimal("0.1")
。
使用 IDEA 编码的时候会给警告提示:
到此这篇关于注意Java中 new BigDecimal(double val) 的使用的文章就介绍到这了,更多相关Java new BigDecimal内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!
--结束END--
本文标题: 注意Java中 new BigDecimal(double val) 的使用
本文链接: https://www.lsjlt.com/news/164917.html(转载时请注明来源链接)
有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341
下载Word文档到电脑,方便收藏和打印~
2024-03-01
2024-03-01
2024-03-01
2024-02-29
2024-02-29
2024-02-29
2024-02-29
2024-02-29
2024-02-29
2024-02-29
回答
回答
回答
回答
回答
回答
回答
回答
回答
回答
0