标签: 数值精度

1 个内容

笔记(1)

本文深入探讨了计算机数值表示方法,包括原码、反码、补码的演进,以及移码的应用。重点讲解了位运算的技巧及陷阱,如快速乘除、标志位管理和符号扩展问题。同时,介绍了Posit、Bfloat16等前沿数值格式,并给出了数值计算的最佳实践建议。

Elliot Yang·
101 浏览