加入收藏 | 设为首页 | 会员中心 | 我要投稿 安卓应用网 (https://www.0791zz.com/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 数据库 > MsSql > 正文

sql – 为什么将AVG(intger_column)转换为DECIMAL至少返回六位小数?

发布时间:2020-05-23 06:58:23 所属栏目:MsSql 来源:互联网
导读:考虑这个查询: WITH Scores (score) AS ( SELECT CAST(score AS INTEGER) FROM ( VALUES (0), (10), (10) ) AS Scores

考虑这个查询:

WITH Scores (score)
     AS
     (
      SELECT CAST(score AS INTEGER)
        FROM (
              VALUES (0),(10),(10)
             ) AS Scores (score)
     )
SELECT AVG(CAST(score AS DECIMAL(19,8))) AS precision_eight,AVG(CAST(score AS DECIMAL(19,7))) AS precision_seven,6))) AS precision_six,5))) AS precision_five,4))) AS precision_four
  FROM Scores;

结果:

precision_eight | precision_seven | precision_six | precision_five | precision_four 
     6.66666666 |       6.6666666 |      6.666666 |       6.666666 |       6.666666

为什么我总是得到至少六位小数?这是记录在案的行为?

(我正在运行SQL Server 2008)

解决方法

小数的AVG始终返回“十进制(38,s)除以十进制(10,0)”数据类型( see here)

您必须将AVG结果转换为所需的精度.

(编辑:安卓应用网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读