浮點數與零的比較

一些筆試、面試寶典之類的書，經常提到浮點數與零的比較。

大概是這樣if(f - 0.0f  < 0.0000001f){}，意思是對浮點數的處理，應該是有一個精度值。

對這個問題，也會留意，但體會不深。

 

今天，總算讓我碰到了。

比如說，一個在100：1下的數值A是10；轉變為1000：1的時候，A應該變成B，B是1，但是在電腦儲存的時候的數值B卻是0.999768······（大概是這樣的數）。（A、B都是float類型）

而在一個運算中，需要對B取整，本來，我的期望值是1，結果卻是0。

另一個運算中，令B減去1，我的期望是0，結果卻是-0.000232。

這兩個錯誤，才讓我深刻體會到浮點數的處理，應該有一個精度限制。