标签: IEEE 754

3 个内容

笔记(3)

本文深入探讨了平方根函数的多种实现方案,包括牛顿迭代法、二分查找法,以及IEEE 754标准下的精度优化。同时,讨论了CPU指令级和向量化硬件加速方法,分析了误差来源与数值稳定问题,并展望了未来发展方向。强调应根据实际需求权衡精度、性能和复杂度。

Elliot Yang·
129 浏览

IEEE 754双精度浮点数由符号位、指数域、尾数域构成,表示范围广。JavaScript Number类型基于此标准,存在精度问题,可用整数运算、精确计算库或容差比较解决。大整数用BigInt处理,注意NaN检测及±0区分。TypedArray和WebAssembly可优化性能。

Elliot Yang·
152 浏览

本文是为面试准备的礼物,汇总了常见的JS手写题和八股文。手写题包括字符串转换对象、类型体操科里化、汉明距离总和、股票买卖、链表随机节点、二叉树迭代遍历、整数转罗马数字、字母异位词分组等。重点讨论了JS浮点数运算不精确的原因和解决方法,涉及IEEE 754标准、精度丢失等,并解释了Number.MAX_SAFE_INTEGER等特殊值。

Elliot Yang·
98 浏览