摘要 探讨算式
的计算精度问题。
例1. 已知 计算
不妨在 Excel 的单元格中计算,则有:
若在 Python 中计算,则似乎有更为精确的结果:
然而,16位的正确值是 0.3499999999999998e1(ISRealsoft 提供)。这样,二者的输出均为错误结果。
参考文献
[1] Ward Cheney, David Kincaid. Numerical Mathematics and Computing. 6th Ed. CA: Thomson Higher Education, 2008, p, 69