javascript - 我需要把帶小數點的有限不迴圈小數乘以10的N次方之後再使用以避免浮點數問題嗎?

來源:互聯網
上載者:User
我有這樣一組資料
虛擬碼(現在是用字串儲存的,到時候會做轉換)

  "buy": [{    "p": "1698.64000",    "n": "0.117"  }, {    "p": "1698.63000",    "n": "5.000"  }, {    "p": "1696.54000",    "n": "0.128"  }, {    "p": "1696.34000",    "n": "0.176"

他們有固定的小數位,p是固定且最多有小數點後2位有效數字,n是小數點後最多有3位有效數字。
我現在需要對這些數做一些計算。我現在瞭解電腦對於浮點數計算是不靠譜的,而且所有計算結果我都最終只要小數點後2到3位有效數字,除法很少,多數都是加減乘,即使有除法其結果我也只保留小數點後3位。

那麼我需要把所有數字都乘以1000讓他們全部都變成整型,再繼續進行運算嗎?還是說這個程度的浮點數可以直接這麼使用?

回複內容:

我有這樣一組資料
虛擬碼(現在是用字串儲存的,到時候會做轉換)

  "buy": [{    "p": "1698.64000",    "n": "0.117"  }, {    "p": "1698.63000",    "n": "5.000"  }, {    "p": "1696.54000",    "n": "0.128"  }, {    "p": "1696.34000",    "n": "0.176"

他們有固定的小數位,p是固定且最多有小數點後2位有效數字,n是小數點後最多有3位有效數字。
我現在需要對這些數做一些計算。我現在瞭解電腦對於浮點數計算是不靠譜的,而且所有計算結果我都最終只要小數點後2到3位有效數字,除法很少,多數都是加減乘,即使有除法其結果我也只保留小數點後3位。

那麼我需要把所有數字都乘以1000讓他們全部都變成整型,再繼續進行運算嗎?還是說這個程度的浮點數可以直接這麼使用?

沒什麼必要,只要多保留1位小數就行了,比如貨幣採用3位有效數字,只在顯示的時候格式化成2位有效數字就可以了。畢竟你x1000之後如果以後還要/1000,那根本沒什麼不同,就算你只保留整形部分又不是整除(除法很少這種描述沒有價值,只要有就要考慮影響),一樣沒用。
以上是個人看法。

使用toFixed方法。保留固定小數位。然後*1即可。

var num=0.1+0.2;var result=num.toFixed(2)*1;console.log(result);// => 0.3
  • 相關文章

    聯繫我們

    該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

    如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

    A Free Trial That Lets You Build Big!

    Start building with 50+ products and up to 12 months usage for Elastic Compute Service

    • Sales Support

      1 on 1 presale consultation

    • After-Sales Support

      24/7 Technical Support 6 Free Tickets per Quarter Faster Response

    • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.