以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  汇总模式的小数不正确  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=146382)

--  作者:sbiw8
--  发布时间:2020/2/22 15:59:00
--  汇总模式的小数不正确
这个原始数据为123106.8,为什么小计一下就变4位小数了呢?就算4位小数也应当是123106.8000才对啊,我是直接用
图片点击可在新窗口打开查看此主题相关图片如下:5.png
图片点击可在新窗口打开查看
向导生成的请问我这汇总模式是哪里出问题了?
--  作者:有点蓝
--  发布时间:2020/2/22 16:11:00
--  
把金额列改为高精度小数类型试试
--  作者:sbiw8
--  发布时间:2020/2/22 17:35:00
--  
我原始数据只有2位小数,由文本文件导入,位数不多所以我用的单精度。
--  作者:有点蓝
--  发布时间:2020/2/22 17:40:00
--  
改为高精度小数类型试试
--  作者:sbiw8
--  发布时间:2020/2/22 17:52:00
--  


[此贴子已经被作者于2020/2/22 17:57:20编辑过]

--  作者:sbiw8
--  发布时间:2020/2/22 17:57:00
--  
我把单精度改为双精度就完全符合了,就没问题了,看来有小数的数据还得要用双精度才行。
--  作者:程兴刚
--  发布时间:2020/2/22 18:14:00
--  
精度不够嘛!