programing

SUM()을 사용한 기본 산술 연산 - 예기치 않은 값

powerit 2023. 8. 11. 22:39
반응형

SUM()을 사용한 기본 산술 연산 - 예기치 않은 값

MariaDB Columnstore 버전이 1.2.2에서 1.2.4로 업데이트되어 헛소리가 시작되었습니다.

우리는 이 칼럼들을 가지고 있습니다.col1, col2둘 다DECIMAL(15,3)이 두 개의 열을 계산하기 위한 작업 쿼리가 이미 있습니다(가칭 참조).A) 그리고 이것은 정확하게 계산되지 않았습니다.col2DB 업데이트 후 합계가 없습니다.별칭B도움이 되지 않는 첫 번째 접근법이었습니다C적절한 작업을 위한 해결책이었습니다.

저는 왜 이런 일이 일어났고 무엇이 이런 행동을 일으켰는지 설명을 알고 싶습니다.

SELECT
id,
SUM(col1) AS c1,
SUM(col2) AS c2,
SUM(col1 - col2) AS A,
SUM(CAST(col1 AS DOUBLE) - CAST(col2 AS DOUBLE)) AS B,
SUM(CAST(col1 AS DECIMAL(15,3)) - CAST(col2 AS DECIMAL(15,3))) AS C
FROM table GROUP BY id

1.2.2:

+----+----------+--------+-----------+
| id |    c1    |   c2   |     A     |
+----+----------+--------+-----------+
|  1 | 1199.940 |  0.000 |  1199.940 |
|  2 |  979.860 | 69.990 |   909.870 |
+----+----------+--------+-----------+

1.2.4(추가 SUM 포함)

+----+----------+--------+-----------------------+---------+-----------+
| id |    c1    |   c2   |           A           |    B    |     C     |
+----+----------+--------+-----------------------+---------+-----------+
|  1 | 1199.940 |  0.000 | -9223372036853575.868 |       0 |  1199.940 |
|  2 |  979.860 | 69.990 |               909.870 |  909.87 |   909.870 |
+----+----------+--------+-----------------------+---------+-----------+

언급URL : https://stackoverflow.com/questions/56979323/basic-math-operations-with-sum-unexpected-values

반응형