浮点数实际是怎么存储的
IEEE 754 把浮点数拆成符号位、带偏移的指数和尾数。float32 使用 8 位指数和 23 位尾数,float64 使用 11 位和 52 位。指数以偏移量(127 或 1023)存储,因此无需第二个符号位即可表示负幂。指数位全为 0 表示非规格化数或零,指数位全为 1 表示无穷或 NaN。由于尾数是二进制的,0.1 这样的十进制小数没有精确表示,这正是常见浮点运算“意外”的根源。
如何检查一个数值
- 1输入十进制数字,也可以输入 NaN、Infinity 或 -Infinity 这些字面量。
- 2选择 float32 或 float64,同一个十进制数在两者中的舍入结果往往不同。
- 3查看彩色分段了解符号、指数和尾数字段,需要时可复制十六进制或位模式。
- 4留意舍入提示:出现时说明存储值与你输入的值不同,并会显示精确误差。
- 5使用解码输入框进行反向操作,把原始位模式还原成数值。
什么时候需要看位模式
解释为什么 0.1 + 0.2 不等于 0.3
直接展示实际存储值和舍入误差,而不是抽象地描述问题。
调试嵌入式或 GPU 代码
在常量跨越接口边界之前,对比它在 float32 与 float64 中的存储差异。
排查 NaN 与无穷
确认某个位模式究竟是真正的 NaN、带符号的无穷,还是一个普通的大数。
理解精度极限
通过相邻可表示数,直观看到在某个量级上数字之间的真实间隔。
常见问题
为什么 float32 显示舍入误差,而 float64 没有?
你输入的数值本身已被解析为 JavaScript 的双精度数,因此按定义 float64 能精确存储它。转换为 float32 会丢弃尾数位,所报告的误差正是降到单精度的真实代价。
什么是非规格化数?
当指数位全为 0 而尾数不为 0 时,隐含的前导 1 会被去掉,使该格式能表示比规格化数更接近零的值,代价是精度下降。之所以单独标注,是因为部分硬件处理它们的速度要慢得多。
为什么 -0 和 0 不一样?
IEEE 754 有两个零,仅符号位不同。它们在比较时相等,但位模式可区分,且在某些运算中行为不同,例如作为除数时会得到符号相反的无穷。
前一个和后一个可表示数说明了什么?
它们是该格式在两侧最接近的可表示值,二者之间的间隔就是当前量级上的分辨率。在 1 附近双精度的分辨率约为 2.2e-16,而在 1e16 附近间隔已大于 1,这正是大整数不再精确的原因。