摘要 计算机的错误计算(六十三)探讨了大数的余切函数值的错误计算。本节讨论另外一种类型数值: 附近数 的余切函数的计算精度问题。
例1. 已知 计算
不妨在Visual Studio 2010下计算:
double x=43.98229715;
double y=1/tan(x);
printf("%lf\n",y);
则输出为 -3889469098.084849 .
若在Python下计算:
则输出的前16位数字与 C代码的输出完全相同,均为 -3889469098.084849 .
然而,正确结果为 -0.3889456383611532e10(ISRealsoft 提供)。因此,上面两种语言的输出中,错误数字的占比均为 11/16 = 68.75% .