我有這樣一組資料
虛擬碼(現在是用字串儲存的,到時候會做轉換)
"buy": [{ "p": "1698.64000", "n": "0.117" }, { "p": "1698.63000", "n": "5.000" }, { "p": "1696.54000", "n": "0.128" }, { "p": "1696.34000", "n": "0.176"
他們有固定的小數位,p是固定且最多有小數點後2位有效數字,n是小數點後最多有3位有效數字。
我現在需要對這些數做一些計算。我現在瞭解電腦對於浮點數計算是不靠譜的,而且所有計算結果我都最終只要小數點後2到3位有效數字,除法很少,多數都是加減乘,即使有除法其結果我也只保留小數點後3位。
那麼我需要把所有數字都乘以1000讓他們全部都變成整型,再繼續進行運算嗎?還是說這個程度的浮點數可以直接這麼使用?
回複內容:
我有這樣一組資料
虛擬碼(現在是用字串儲存的,到時候會做轉換)
"buy": [{ "p": "1698.64000", "n": "0.117" }, { "p": "1698.63000", "n": "5.000" }, { "p": "1696.54000", "n": "0.128" }, { "p": "1696.34000", "n": "0.176"
他們有固定的小數位,p是固定且最多有小數點後2位有效數字,n是小數點後最多有3位有效數字。
我現在需要對這些數做一些計算。我現在瞭解電腦對於浮點數計算是不靠譜的,而且所有計算結果我都最終只要小數點後2到3位有效數字,除法很少,多數都是加減乘,即使有除法其結果我也只保留小數點後3位。
那麼我需要把所有數字都乘以1000讓他們全部都變成整型,再繼續進行運算嗎?還是說這個程度的浮點數可以直接這麼使用?
沒什麼必要,只要多保留1位小數就行了,比如貨幣採用3位有效數字,只在顯示的時候格式化成2位有效數字就可以了。畢竟你x1000之後如果以後還要/1000,那根本沒什麼不同,就算你只保留整形部分又不是整除(除法很少這種描述沒有價值,只要有就要考慮影響),一樣沒用。
以上是個人看法。
使用toFixed方法。保留固定小數位。然後*1即可。
var num=0.1+0.2;var result=num.toFixed(2)*1;console.log(result);// => 0.3