今天单独分享数值计算的问题，是因为最近处理一次线上服务告警时，发现还有很多同学不了解浮点数计算的坑。
数值精度问题引发的Bug一般难以发现，所以我们在公司处理这方面的业务时一定要特别注意。
下面我们来具体看看这些问题。
数值精度问题
下面输出的结果是 true 还是 false ?
public static void main(String[] args) {
Double num1 = 0.15;
Double num2 = 0.05;
System.out.println(num1 % num2 == 0);
}
正确答案是 false 。这是因为计算机无法精确的保存浮点数，所以浮点数计算的结果也不可能精准。
再来看一段代码猜猜输出结果。
public static void main(String[] args) {
System.out.println(0.1+0.2);
System.out.println(1.0-0.8);
System.out.println(4.015*100);
System.out.println(123.3/100);
}
输出结果如下：
0.30000000000000004
0.19999999999999996
401.49999999999994
1.2329999999999999
输出结果和我们预期的很不一样，出现这种问题的原因是因为计算机是以二进制存储数值的，浮点数也不例外。Java采用了IEEE754标准实现浮点数的表达和运算。
比如，0.1 的二进制表示为 0.0 0011 0011 0011… （0011 无限循环)，再转换为十进制就是 0.1000000000000000055511151231257827021181583404541015625。对于计算机而言，0.1 无法精确表达，这是浮点数计算造成精度损失的根源。
你可能会觉得，这种相差非常小不会对产生多大影响，但如果把损失的精度换算成金钱，每天有上百万交易，每次交易都差一分钱，一个月下来就是30万。
数值舍入问题
下面这段代码的输出结果是什么？
public static void main(String[] args) {
double num = 3.35;
System.out.println(String.format("%.1f", num));
}
输出结果
3.4
这就是由精度问题和舍入方式共同导致的，double 3.35 其实相当于 3.350xxx
String.format 采用四舍五入的方式进行舍入，取 1 位小数，double 的 3.350 四舍五入为 3.4
解决方案
涉及到浮点数精确表达和运算的场景，使用BigDecimal类型。
但是注意在使用BigDecimal的时候也有几个坑要避开。
第一个坑：
使用 BigDecimal 表示和计算浮点数，务必使用字符串的构造方法来初始化 BigDecimal。
public static void main(String[] args) {
System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2")));
System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
}
输出结果
0.3
0.3000000000000000166533453693773481063544750213623046875
第二个坑：
浮点数的字符串格式化也要通过 BigDecimal 进行。
public static void main(String[] args) {
double num = 3.35;
System.out.println(String.format("%.1f", num));
BigDecimal num1 = new BigDecimal("3.35");
BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN);
System.out.println(num2);
}
输出结果
3.4
3.3
总结
第一，要精确表示浮点数应该使用 BigDecimal。并且使用 String 入参的构造方法或者 BigDecimal.valueOf 方法来初始化。
第二，对浮点数做精确计算，参与计算的各种数值应该始终使用 BigDecimal，所有的计算都要通过 BigDecimal 的方法进行，任何一个环节出现精度损失，最后的计算结果可能都会出现误差。
第三，对于浮点数的格式化，建议使用 BigDecimal 来表示浮点数，并使用其 setScale 方法指定舍入的位数和方式。
作者简介
鑫茂，2022年3月参加工作，从事后端开发。
高度自律，中度代码洁癖，喜欢Java，看到美的东西就会拼命研究。闲暇之余，喜读思维方法、哲学心理学以及历史等方面的书，偶尔写些文字。
希望通过文章，结识更多同道中人。
参考资料
- [2] BigDecimal 源码
- [3]《数值计算》
