js toFixed()方法的重写实现精度的一致
发布时间:2023-10-23 14:49:27 所属栏目:教程 来源:
导读:但凡用过js 中的toFix() 方法的, 应该都知道这个方法存在一个小小的BUG。
在IE 下和FF 下对于小数的进位有点不同。
例如( 0.005)在ie 下 toFix(2)=0.00. 在FF 下 toFix(2)=0.01.
这样就会造成数据的差
在IE 下和FF 下对于小数的进位有点不同。
例如( 0.005)在ie 下 toFix(2)=0.00. 在FF 下 toFix(2)=0.01.
这样就会造成数据的差
但凡用过js 中的toFix() 方法的, 应该都知道这个方法存在一个小小的BUG。 在IE 下和FF 下对于小数的进位有点不同。 例如( 0.005)在ie 下 toFix(2)=0.00. 在FF 下 toFix(2)=0.01. 这样就会造成数据的差异。 我们可以通过 重写 这个方法来实现精度的统一。 代码如下: Number.prototype.toFixed = function(s) { return (parseInt(this * Math.pow( 10, s ) + 0.5)/ Math.pow( 10, s )).toString(); } 但是这样做仍然有一个问题, 在所有的浏览器下, String("0.050").toFix(2)=0.1 我们可以看到这样你原本要保留两位小数却变成了一位。 也就是说。这个重写只有的toFixed() 会自动舍弃最后的0. 我们需要对这个方法做进一步的处理。 代码如下: Number.prototype.toFixed = function(s) { changenum=(parseInt(this * Math.pow( 10, s ) + 0.5)/ Math.pow( 10, s )).toString(); index=changenum.indexOf("."); if(index<0&&s>0){ changenum=changenum+"."; for(i=0;i<s;i++){ changenum=changenum+"0"; } }else { index=changenum.length-index; for(i=0;i<(s-index)+1;i++){ changenum=changenum+"0"; } } return changenum; } (编辑:聊城站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
推荐文章
站长推荐