js浮點數精度問題

來源:互聯網
上載者:User

標籤:style   color   使用   os   ar   問題   on   rgb   

浮點數的實現原理,決定了浮點數會有一個悲劇,那就是計算0.3 + 0.3 + 0.3的值,你可以在控制台裡面列印一下其結果,他的值不是你所期望的0.9,而是醜陋的0.899999999999999

如何處理這種情況呢。

現在提供3種方案

1,不用處理。為什麼說不用處理呢?因為0.8999999999999999 和 0.9在使用時沒有本質區別。

2,顯示時處理。如果你要把0.3+0.3+0.3的結果呈現在使用者眼前,醜陋的0.8999999999999999顯然不是你所期望的結果。你所期望的是0。9.如何呈現0.9呢?那麼就是再最終結果加一個不會嚴重影響結果真實性的補丁。看看加了這個補丁之後浮點數的位元是不是發生了改變,如果發生了很大改變,恭喜你,你這個補丁加對了。

3,計算時處理,如果你可以控制計算的過程,那麼可以採取如下的做法嗎,如計算0.3+0.3+0.3,你可以這樣得到最終結果var a = 0.3*10+0.3*10+0.3*10;a = a/10;這種方法本人非常不推崇,因為他是混淆了概念的方法,鄙視前牛定製規範的做法!!!

4,你對精度要求非常高,好吧,Float類型(暫且用“類型”這個不恰當的詞)已經不適合你了,你應該自己實現一個全新的高精度的類型。具體方案這裡就不說了,但是這已經實現這樣的業務已經不適合用js語言了。

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.