加入收藏 | 设为首页 | 会员中心 | 我要投稿 聊城站长网 (https://www.0635zz.com/)- 智能语音交互、行业智能、AI应用、云计算、5G!
当前位置: 首页 > 站长学院 > MsSql教程 > 正文

SqlServer中float类型使用需注意什么,如何理解其不确定性

发布时间:2023-04-17 14:33:28 所属栏目:MsSql教程 来源:
导读:这篇文章主要介绍“SqlServer中float类型使用要注意什么,如何理解其不确定性”,有一些人在SqlServer中float类型使用要注意什么,如何理解其不确定性的问题上存在疑惑,接下来小编就给大家来介绍一下相关
这篇文章主要介绍“SqlServer中float类型使用要注意什么,如何理解其不确定性”,有一些人在SqlServer中float类型使用要注意什么,如何理解其不确定性的问题上存在疑惑,接下来小编就给大家来介绍一下相关的内容,希望对大家解答有帮助,有这个方面学习需要的朋友就继续往下看吧。
 
很多时候,大家都知道,浮点型这个东西,本身存储就是一个不确定的数值,你永远无法知道,它是 0 = 0.00000000000000123 还是 0 = 0.00000000000999这样的东西。也许一开始使用的时候没有问题,但是有时候做统计的时候,就会看出端倪
 
简单的举个例子,就知道统计的时候,有可能出现意外的效果,导致可能需要存储过程或者接收程序的代码左额外的取舍数位的处理,所以在此其实我是推荐使用Numeric来替代float进行一个替代使用,避免一个sum ,然后明明明细看每一条数据都是正常的2,3位小数,一汇总就变成了8,9位的样子
 
CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)
 
CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))
 
--分开执行-------------------------------------------------
 
INSERT INTO #T
 
    ( Va )
 
VALUES ( 0.60000000)
 
INSERT INTO #T1
 
    ( Va )
 
VALUES ( 0.60000000)
 
GO 100
 
SELECT SUM(Va) FROM #T
 
SELECT SUM(Va) FROM #T1
 
----------------------
 
60.0000000000001
 
(1 行受影响)
 
---------------------------------------
 
60.000000000
 
(1 行受影响)
 
 

(编辑:聊城站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章