搞定JS中乘法的浮点错误的方法
发布时间:2023-09-13 14:15:44 所属栏目:教程 来源:
导读:JS里做小数的乘法运算时会出现浮点错误,具体可以测试一下:
<script>
alert(11*22.9)
</script>
结果是251.89999999999998 而不是251.9
这个问题想必有很多人为之头痛。那么如何解决呢?在此给
<script>
alert(11*22.9)
</script>
结果是251.89999999999998 而不是251.9
这个问题想必有很多人为之头痛。那么如何解决呢?在此给
JS里做小数的乘法运算时会出现浮点错误,具体可以测试一下: <script> alert(11*22.9) </script> 结果是251.89999999999998 而不是251.9 这个问题想必有很多人为之头痛。那么如何解决呢?在此给出解决办法。 1、 代码如下: <script> alert(11*(22.9*10)/10); </script> 解决问题的大概思路就是,先把因数放大为整数,最后再除以相应的倍数,这样就能得到正确的结果了。 2、 代码如下: <script defer> Number.prototype.rate=function(){ var oStr=this.toString(); if(oStr.indexOf(".")==-1) return 1; else return Math.pow(10,parseInt(oStr.length-oStr.indexOf(".")-1)); } function tran(){ args=tran.arguments; var temp=1; for(i=0;i<args.length;i++) temp*=args[ i ]*args[ i ].rate(); for(i=0;i<args.length;i++) temp/=args[ i ].rate(); return temp } alert(tran(11,22.9)); </script> 该解决办法是比较麻烦的办法,但是却能让你大概了解解决这个问题的实际过程。 也可以用四舍五入的方法, js中可以使用Math.round实现整数的四舍五入,如果需要实现精确到小数点多少位则需要编写函数了。 代码如下: function ForDight(Dight,How) { Dight = Math.round(Dight*Math.pow(10,How))/Math.pow(10,How); return Dight; } //除法函数,用来得到精确的除法结果 //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为 精确的除法结果。 //调用:accDiv(arg1,arg2) //返回值:arg1除以arg2的精确结果 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")) r2=Number(arg2.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } } //给Number类型增加一个div方法,调用起来更加 方便。 Number.prototype.div = function (arg){ return accDiv(this, arg); } //乘法函数,用来得到精确的乘法结果 //说明:javascript的乘法结果会有误差,在两个浮点数 相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 //调用:accMul(arg1,arg2) //返回值:arg1乘以 arg2的精确结果 function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } // 给Number类型增加一个mul方法,调用起来更加方便。 Number.prototype.mul = function (arg){ return accMul(arg, this); } (编辑:聊城站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
推荐文章
站长推荐