当前位置：首页 > news >正文

3.3 在代码中验证与避免误差

news 2026/5/13 3:16:14

一、绕开二进制精度限制，用工程方法解决问题

既然误差是硬件底层的必然结果，我们就不能改变它，但可以规避它。下面是《程序是怎样运行的》中推荐的、在实际开发中最常用的 4 种解决方案：

方案 1：避免直接用`==`比较浮点数

问题：浮点数是近似值，直接比较相等几乎一定会出错。解决：用「差值是否小于极小阈值」来判断：

#include <stdio.h> #include <math.h> // 用于fabs函数（求绝对值） #define EPS 1e-6 // 定义极小阈值（0.000001） int main() { float a = 0.1; float b = 0.1; if (fabs((a + b) - 0.2) < EPS) { printf("近似相等\n"); } else { printf("不相等\n"); } return 0; }

✅ 适用场景：所有需要判断浮点数相等 / 大小的场景。

方案 2：使用高精度小数库

问题：float（32 位）、double（64 位）的精度依然有限，金融、科学计算需要更高精度。解决：使用语言自带的高精度库，用字符串存储小数，避免二进制转换误差：

Python：decimal.Decimal
Java：java.math.BigDecimal
C++：boost::multiprecision::cpp_dec_float

Python 示例：

from decimal import Decimal, getcontext getcontext().prec = 20 # 设置精度为20位 a = Decimal('0.1') b = Decimal('0.1') print(a + b) # 输出：0.10000000000000000000 print(a + b == Decimal('0.2')) # 输出：True

✅ 适用场景：金融、会计、高精度科学计算。

方案 3：转换为整数运算

问题：整数可以用二进制精确表示，没有精度误差。解决：把小数放大为整数（比如把 “元” 变成 “分”），运算后再缩小：

#include <stdio.h> int main() { // 0.1元 = 10分，用整数存储 int sum = 0; for (int i = 0; i < 100; i++) { sum += 10; // 每次加10分（即0.1元） } printf("总金额：%d元%d分\n", sum / 100, sum % 100); return 0; }

运行结果：总金额：10元0分（完全精确）✅ 适用场景：货币计算、小数位数固定的场景。

方案 4：减少运算次数，避免误差累积

问题：多次运算会让微小误差不断放大（比如 0.1 累加 100 次）。解决：尽量合并计算，用公式代替循环：

#include <stdio.h> int main() { // 直接用乘法：0.1 * 100 = 10，误差远小于循环累加 float sum = 0.1 * 100; printf("%f\n", sum); // 输出：10.000000（近似精确） return 0; }

✅ 适用场景：大量重复运算的场景。

核心认知

这些方案的本质，都是绕开 “二进制小数无法精确存储” 的硬件限制：

用整数 / 字符串存储 → 避免二进制转换误差；
用阈值比较 → 接受近似值，避免绝对相等的执念；
减少运算次数 → 降低误差累积的概率。这正是《程序是怎样运行的》中 “程序要适配硬件特性” 的最佳实践。

二、二进制数和十六进制数

为什么要学十六进制？

十六进制是查看内存数据的窗口—— 二进制太长，十进制不直观，十六进制是二进制的 “简写版”：

1 位十六进制 = 4 位二进制（0xF=1111）
2 位十六进制 = 1 字节（8 位二进制）
32 位浮点数 = 8 位十六进制

二进制 ↔ 十六进制转换规则

二进制	十六进制	二进制	十六进制
0000	0	1000	8
0001	1	1001	9
0010	2	1010	A
0011	3	1011	B
0100	4	1100	C
0101	5	1101	D
0110	6	1110	E
0111	7	1111	F

示例：二进制1011 0011→ 十六进制0xB3

📖 浮点数的十六进制表示

我们可以用十六进制直接查看浮点数在内存中的样子（以 C 语言为例）：

#include <stdio.h> int main() { float a = 0.1; // 把float的地址强制转为char*，逐字节打印十六进制 unsigned char *p = (unsigned char *)&a; printf("0.1 的内存十六进制："); for (int i = 0; i < 4; i++) { printf("%02X ", p[i]); } printf("\n"); return 0; }

运行结果（小端序）：CD CC 4C 3E✅ 这串十六进制就是0.1在内存中的真实存储，对应我们之前拆解的 IEEE 754 格式。