[python基礎] 浮點數乘法的誤差問題

標籤：原理   使用   等等   精度   硬體   無限   情況下   lin   儲存   

>>> 2.2*36.6000000000000005

詳細的原理在IEEE 754浮點數標準

 

小數以二進位形式表示時的有窮性導致的，

這不是Python的問題，而是實數的無限精度跟電腦的有限記憶體之間的矛盾

電腦的記憶體、cpu寄存器等等這些硬體單元都是有限的，只能表示有限位元的二進位位，因此儲存的二進位小數就會和實際轉換而成的位元有一定的誤差。（你可以試著將0.3轉化為二進位表示，也將出現一個迴圈小數。）

實際上，大多數情況下，小數在電腦中是以一種類似科學計數法的形式表示的，具體的可以參考一下其他的資料。但即便如此，仍然存在誤差。

所以在python中不建議直接將兩個浮點數進行大小比較，或者做精確的計算，往往會得到意想不到的結果。

 

關於控制精度的方法可以使用round和decimal模組

 

使用decimal模組計算時：

>>> from decimal import *>>> Decimal(‘2.2‘)*Decimal(‘3‘)Decimal(‘6.6‘)

 

相關連結

https://www.zhihu.com/question/25457573

[python基礎] 浮點數乘法的誤差問題