摘要 计算机的错误计算(十九)指出:两个等价大数相减,差不是正确值0,而是一个大数。本节用 Python的 torch库中函数进行计算验证,进一步说明错误的一般性。
例1. 在Windows10,Python 3.12.4 下用 torch库中函数计算
直接贴图计算过程:
上述输出为 6.125299882776625e+70. 它与(十九)中使用Python的幂运算与 math库中函数计算的结果一致。
这个结果进一步说明计算机的错误计算具有一致性。
摘要 计算机的错误计算(十九)指出:两个等价大数相减,差不是正确值0,而是一个大数。本节用 Python的 torch库中函数进行计算验证,进一步说明错误的一般性。
例1. 在Windows10,Python 3.12.4 下用 torch库中函数计算
直接贴图计算过程:
上述输出为 6.125299882776625e+70. 它与(十九)中使用Python的幂运算与 math库中函数计算的结果一致。
这个结果进一步说明计算机的错误计算具有一致性。