欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 教育 > 锐评 > 计算机的错误计算(二十四)

计算机的错误计算(二十四)

2024/10/24 5:23:51 来源:https://blog.csdn.net/zaim1/article/details/140231751  浏览:    关键词:计算机的错误计算(二十四)

摘要  计算机的错误计算(二十一)就案例 20^{65}-20^{65-0.1^{15}} 展示了“两个不相等数相减,差为0”。本节给出新的计算过程:不停增加计算精度直到出现非0结果。这个过程与结果表明,即使是专业数学软件,对这个问题的处理,也不尽完美。

       对于 20^{65}-20^{65-0.1^{15}} 来说,正如计算机的错误计算(二十一)所述,双精度下,其输出为0. 容易想到,要获得有效数字,必须提高计算精度。

       下面展示在数学软件 Maple 中的计算过程。

       Maple 初始的默认位数是10位。从上可知,直到有效位数增加到 17位,才获得有效数字。但是,不知大家注意到没有?17位有效位数下,只显示 3位数字“110”。从后面的结果知,四舍五入后应该是“111”。所以,首先,17位有效位数下只输出 3位数字,其次,输出的还不全对。

       您感觉如何?觉得难还是不难?以为只要增加精度就行?上面可是专业数学软件!

       最后,若您想验证 Maple 软件的结果,可以访问 ISReal 计算器, 可信计算icon-default.png?t=N7T8http://www.isrealsoft.cn/

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com