【踩坑】double和BigDecimal的精度问题

【踩坑】double和bigdecimal的精度问题

背景

今天生产报了个问题,在申报和预算相同的金额的时候,后台返回超出预算。一开始以为是判断逻辑的问题,找了个数据试了下发现重现不出来。又是改数据又是找前端传参最后发现是接受参数处理的问题。

double转Bigdecimal,调用compare方法没有返回预期结果

部分代码如下

balanceFee.compareTo(new BigDecimal(amt)) >= 0

debug尝试

下面两个图是分别对100和100.6
debug如图
在这里插入图片描述
在这里插入图片描述
debug看上去都好像相同, 但是结果是, 100相同, 100.6不相同

测试代码

 public static void main(String[] args) {
   
   
        double d1 = 6.66;
        double d2 = 666.0 / 100.0;
        double d3 = Double.parseDouble("6.66"
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值