加入收藏 | 设为首页 | 会员中心 | 我要投稿 聊城站长网 (https://www.0635zz.com/)- 智能语音交互、行业智能、AI应用、云计算、5G!
当前位置: 首页 > 教程 > 正文

js toFixed()方法的重写实现精度的一致

发布时间:2023-10-23 14:49:27 所属栏目:教程 来源:
导读:但凡用过js 中的toFix() 方法的, 应该都知道这个方法存在一个小小的BUG。

在IE 下和FF 下对于小数的进位有点不同。

例如( 0.005)在ie 下 toFix(2)=0.00. 在FF 下 toFix(2)=0.01.

这样就会造成数据的差
但凡用过js 中的toFix() 方法的, 应该都知道这个方法存在一个小小的BUG。
 
在IE 下和FF 下对于小数的进位有点不同。
 
例如( 0.005)在ie 下 toFix(2)=0.00. 在FF 下 toFix(2)=0.01.
 
这样就会造成数据的差异。
 
我们可以通过 重写 这个方法来实现精度的统一。
 
代码如下:
 
Number.prototype.toFixed = function(s)
 
{
 
return (parseInt(this * Math.pow( 10, s ) + 0.5)/ Math.pow( 10, s )).toString();
 
}
 
但是这样做仍然有一个问题, 在所有的浏览器下, String("0.050").toFix(2)=0.1
 
我们可以看到这样你原本要保留两位小数却变成了一位。 也就是说。这个重写只有的toFixed() 会自动舍弃最后的0.
 
我们需要对这个方法做进一步的处理。
 
代码如下:
 
Number.prototype.toFixed = function(s)
 
{
 
changenum=(parseInt(this * Math.pow( 10, s ) + 0.5)/ Math.pow( 10, s )).toString();
 
index=changenum.indexOf(".");
 
if(index<0&&s>0){
 
changenum=changenum+".";
 
for(i=0;i<s;i++){
 
changenum=changenum+"0";
 
}
 
}else {
 
index=changenum.length-index;
 
for(i=0;i<(s-index)+1;i++){
 
changenum=changenum+"0";
 
}
 
}
 
return changenum;
 
}
 
 

(编辑:聊城站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章