加入收藏 | 设为首页 | 会员中心 | 我要投稿 聊城站长网 (https://www.0635zz.com/)- 智能语音交互、行业智能、AI应用、云计算、5G!
当前位置: 首页 > 教程 > 正文

Javascript浮点数乘积运算出现多位小数的处理方法

发布时间:2023-10-16 15:35:15 所属栏目:教程 来源:
导读:Javascript在进行浮点数的乘积运算,会出现多位小数的情况。

这是由于在运算的时候先把浮点数转化成二进制后进行运算,但是有的小数在二进制编码后出现无限循环,因而导致计算出现了误差,在其它变成语言中也有类
Javascript在进行浮点数的乘积运算,会出现多位小数的情况。
 
这是由于在运算的时候先把浮点数转化成二进制后进行运算,但是有的小数在二进制编码后出现无限循环,因而导致计算出现了误差,在其它变成语言中也有类似的问题。
 
原因解释参考自百度知道:
 
例如:求1038.1-1000
 
1038.1=10000001110.0001100110011001100110011001100110011001100.....
 
1000 =1111101000
 
1038.1转化为二进制是个无限循环小数,1100是循环节,只能取近似值,误差就是这里产生的 如果浏览器版本高,可以用toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。
 
解决方案:根据要保留的小数位数(如4),在计算乘积的时候先乘以(10^4),然后对计算结果除以(10^4),最后对结果取近似值Math.round
 
代码如下:
 
var m1 = 2232.00,
 
percent = (10/100),
 
total = percent*m1;
 
alert(total);//223.20000000000002
 
total = Math.round(total*10)/10;
 
alert(total);//223.2
 
 

(编辑:聊城站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章