郑州网站建设优化企业,学校网站建设预算,网站免费建站 网页不需要备案,wordpress防止挂马摘要 讨论用 Go语言实现的 函数的计算精度问题。 由计算机的错误计算#xff08;五十五#xff09;知#xff0c;国际 IEEE 754 标准中#xff0c; 函数具有定义域 . 那么#xff0c;在常规编程模式下用 Go语言实现这个函数#xff0c;其输出的精度如何#xff1f;
…摘要 讨论用 Go语言实现的 函数的计算精度问题。 由计算机的错误计算五十五知国际 IEEE 754 标准中 函数具有定义域 . 那么在常规编程模式下用 Go语言实现这个函数其输出的精度如何
例1. 已知 用 Go语言编程计算 不妨用下列代码计算
package mainimport (fmtmath
)func main() {x : 1234567890987.999tanValue : math.Tan(math.Pi * x)fmt.Printf(%v, tanValue)
}
则输出为 -0.0033182039864617023 . 事实上16位的正确结果为 -0.3141602989056156e-2 由 ISReal 软件提供。因此上述代码只输出 1 位正确数字。
