以文本方式查看主题
- Foxtable(狐表) (http://foxtable.net/bbs/index.asp)
-- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2)
---- 汇总模式的小数不正确 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=146382)
|
-- 作者:sbiw8
-- 发布时间:2020/2/22 15:59:00
-- 汇总模式的小数不正确
这个原始数据为123106.8,为什么小计一下就变4位小数了呢?就算4位小数也应当是123106.8000才对啊,我是直接用 此主题相关图片如下:5.png
的向导生成的,请问我这汇总模式是哪里出问题了?
|
-- 作者:有点蓝
-- 发布时间:2020/2/22 16:11:00
--
把金额列改为高精度小数类型试试
|
-- 作者:sbiw8
-- 发布时间:2020/2/22 17:35:00
--
我原始数据只有2位小数,由文本文件导入,位数不多所以我用的单精度。
|
-- 作者:有点蓝
-- 发布时间:2020/2/22 17:40:00
--
请改为高精度小数类型试试
|
-- 作者:sbiw8
-- 发布时间:2020/2/22 17:52:00
--
[此贴子已经被作者于2020/2/22 17:57:20编辑过]
|
-- 作者:sbiw8
-- 发布时间:2020/2/22 17:57:00
--
我把单精度改为双精度就完全符合了,就没问题了,看来有小数的数据还得要用双精度才行。
|
-- 作者:程兴刚
-- 发布时间:2020/2/22 18:14:00
--
精度不够嘛!
|