js 浮點數計算Bug

來源:互聯網
上載者:User

標籤:arguments   ber   prot   mat   div   highlight   bug   res   split   

之前在寫項目時候,直接對帶小數點的資料進行運算,發現所得到的值並不是自己想要的。

經過一系列學習後,發現在JavaScript中,浮點數運算都是先轉換成二進位,在轉成二進位的時候有出現無限迴圈小數,故之後的運算都出現了問題(這是基於IEEE754數值的浮點計算的通病)。

因此,就翻閱了前公司的js工具庫,找到一些用於運算的函數。

// 加法function accAdd(arg1,arg2){     var r1,r2,m;     try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}     try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}     m=Math.pow(10,Math.max(r1,r2))     return ((arg1*m+arg2*m)/m).toFixed(2);   }// 除法function accDiv(arg1,arg2){   var t1=0,t2=0,r1,r2;   try{t1=arg1.toString().split(".")[1].length}catch(e){}   try{t2=arg2.toString().split(".")[1].length}catch(e){}   with(Math){   r1=Number(arg1.toString().replace(".",""))   r2=Number(arg2.toString().replace(".",""))   return (r1/r2)*pow(10,t2-t1);  }}// 乘法function accMul(arg1,arg2){   var m=0,s1=arg1.toString(),s2=arg2.toString();   try{m+=s1.split(".")[1].length}catch(e){}   try{m+=s2.split(".")[1].length}catch(e){}   return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)}// 減法function accSubtr(arg1,arg2){   var r1,r2,m,n;   try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}   try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}   m=Math.pow(10,Math.max(r1,r2));   //動態控制精度長度   n=(r1>=r2)?r1:r2;   return ((arg1*m-arg2*m)/m).toFixed(n);}

  找到這些工具函數,當有想加強這些函數的想法。比如當函數不只兩個的時候。

於是,在我的腦海就出現了兩個念頭,可實現其效果。

1. 參數過多的時候,一遍一遍的遞迴自己(這個方法就不寫了,反正就是遞迴)。

2. 重構這個工具函數

// 加法function accAdd() {    let arr = Array.prototype.slice.call(arguments);    let num = 0;    arr.map(res => {        let r1, r2, m;        try { r1 = res.toString().split(".")[1].length } catch (e) { r1 = 0 };        try { r2 = num.toString().split(".")[1].length } catch (e) { r2 = 0 };        m = Math.pow(10, Math.max(r1, r2));        num = (res * m + num * m) / m    });    return num;}

  

// 減法function accSubtr() {   let arr = Array.prototype.slice.call(arguments);   let num = arr[0];   arr.shift();   arr.map(res => {        let r1, r2, m, n;        try { r1 = res.toString().split(".")[1].length } catch (e) { r1 = 0 };        try { r2 = num.toString().split(".")[1].length } catch (e) { r2 = 0 };        m = Math.pow(10, Math.max(r1, r2));        n = (r1 >= r2) ? r1 : r2;        num = ((num * m - res * m) / m).toFixed(n);    });     return num;  }

  

js 浮點數計算Bug

相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.