浮點型資料運算精度bug

來源:互聯網
上載者:User

標籤:數字   Null 字元串   精度   script   pre   his   rip   turn   比較   

/**         * 校正是否為數字         * @param arg         * @return         */        function checkIsNumber(arg){            if(arg != null && arg.toString() != ""){                var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/;                if(re.test(arg.toString())){                    return true;                }            }            return false;        }        /**         * 加法函數,用來得到精確的加法結果         * 說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。         * 傳回值注意:arg1和arg2可能是整數、浮點數、null、Null 字元串、其他字串         * @param arg1         * @param arg2         * @return         */        function accAdd(arg1,arg2){            if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){                return null;            }            var r1,r2,m;            try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}             try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}             m=Math.pow(10,Math.max(r1,r2));            return (arg1*m+arg2*m)/m;        }        // 給Number類型增加一個add方法,調用起來更加方便。        Number.prototype.add = function (arg){            return accAdd(this,arg);        }        /**         * 減法函數,用來得到精確的減法結果         * 說明:javascript的減法結果會有誤差,在兩個浮點數相減的時候會比較明顯。這個函數返回較為精確的減法結果。         * 傳回值:arg1-arg2的值,arg1和arg2可能是整數、浮點數、null、Null 字元串、其他字串         * @param arg1         * @param arg2         * @return         */        function accSub(arg1,arg2){            if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){                return null;            }            var r1,r2,m,n;                try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}                try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}            m=Math.pow(10,Math.max(r1,r2));            // n=(r1>=r2)?r1:r2; // 控制精度            // return ((arg1*m-arg2*m)/m).toFixed(n);            return (arg1*m-arg2*m)/m;        }        // 給Number類型增加一個subduct方法,調用起來更加方便。        Number.prototype.subduct = function (arg){            return accSub(this,arg);        }        /**         * 除法函數,用來得到精確的除法結果         * 說明:javascript的除法結果會有誤差,在兩個浮點數相除的時候會比較明顯。這個函數返回較為精確的除法結果。         * 傳回值:arg1除以arg2的精確結果         * @param arg1         * @param arg2         * @return         */        function accDiv(arg1,arg2){            if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){                return null;            }            var t1,t2,r1,r2;            try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;}             try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;}            with(Math){            r1=Number(arg1.toString().replace(".",""));            r2=Number(arg2.toString().replace(".",""));             return (r1/r2)*pow(10,t2-t1);             }         }         // 給Number類型增加一個div方法,調用起來更加方便。        Number.prototype.div = function (arg){             return accDiv(this,arg);         }         /**         * 乘法函數,用來得到精確的乘法結果          * 說明:javascript的乘法結果會有誤差,在兩個浮點數相乘的時候會比較明顯。這個函數返回較為精確的乘法結果。         * 傳回值:arg1乘以arg2的精確結果          * @param arg1         * @param arg2         * @return         */        function accMul(arg1,arg2) {            if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){                return null;            }            var m=0,s1=arg1.toString(),s2=arg2.toString();             try{m+=s1.split(".")[1].length;}catch(e){}            try{m+=s2.split(".")[1].length;}catch(e){}             return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);         }         // 給Number類型增加一個mul方法,調用起來更加方便。        Number.prototype.mul = function (arg){             return accMul(this,arg);         }                 console.log(accAdd(0.3,0.2)+" "+accSub(0.3,0.2))    

 

浮點型資料運算精度bug

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.