BigDecimal传值精度计算问题

最新推荐文章于 2024-06-20 10:16:49 发布

原创

最新推荐文章于 2024-06-20 10:16:49 发布 · 464 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#BigDecimal #精度 #java

在进行浮点数精度计算时，很容易就会出现得到数据不一致问题。

Java 语言支持两种基本的浮点类型： float 和 double ，以及与它们对应的包装类 Float 和 Double 。它们都依据 IEEE 754 标准，该标准用科学记数法以底数为 2 的小数来表示浮点数。

下面来看两段代码，及其计算结果：

使用 double 传参的时候会产生不可预期的结果，比如说 0.1 实际的值是 0.1000000000000000055511151231257827021181583404541015625，说白了，这还是精度的问题。（既然如此，为什么不废弃呢？）

import java.math.BigDecimal;

public class T {
    public static void main(String[] args) {
        BigDecimal a = new BigDecimal(1);
        BigDecimal b = new BigDecimal(0.9);
        BigDecimal c = new BigDecimal(0.8);
        BigDecimal d = new BigDecimal(0.7);
        System.out.println(a.subtract(b));
        System.out.println(c.subtract(d));
    }
}