Foxtable(狐表)用户栏目专家坐堂 → 汇总模式的小数不正确


  共有3803人关注过本帖树形打印复制链接

主题:汇总模式的小数不正确

帅哥哟,离线,有人找我吗?
sbiw8
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:15 积分:339 威望:0 精华:0 注册:2019/8/24 19:42:00
汇总模式的小数不正确  发帖心情 Post By:2020/2/22 15:59:00 [只看该作者]

这个原始数据为123106.8,为什么小计一下就变4位小数了呢?就算4位小数也应当是123106.8000才对啊,我是直接用
图片点击可在新窗口打开查看此主题相关图片如下:5.png
图片点击可在新窗口打开查看
向导生成的请问我这汇总模式是哪里出问题了?

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:110574 积分:562760 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2020/2/22 16:11:00 [只看该作者]

把金额列改为高精度小数类型试试

 回到顶部
帅哥哟,离线,有人找我吗?
sbiw8
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:15 积分:339 威望:0 精华:0 注册:2019/8/24 19:42:00
  发帖心情 Post By:2020/2/22 17:35:00 [只看该作者]

我原始数据只有2位小数,由文本文件导入,位数不多所以我用的单精度。

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:110574 积分:562760 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2020/2/22 17:40:00 [只看该作者]

改为高精度小数类型试试

 回到顶部
帅哥哟,离线,有人找我吗?
sbiw8
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:15 积分:339 威望:0 精华:0 注册:2019/8/24 19:42:00
  发帖心情 Post By:2020/2/22 17:52:00 [只看该作者]



[此贴子已经被作者于2020/2/22 17:57:20编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
sbiw8
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:15 积分:339 威望:0 精华:0 注册:2019/8/24 19:42:00
  发帖心情 Post By:2020/2/22 17:57:00 [只看该作者]

我把单精度改为双精度就完全符合了,就没问题了,看来有小数的数据还得要用双精度才行。

 回到顶部
帅哥哟,离线,有人找我吗?
程兴刚
  7楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信 一级勋章
等级:超级版主 帖子:7258 积分:40773 威望:0 精华:16 注册:2008/8/31 23:23:00
  发帖心情 Post By:2020/2/22 18:14:00 [只看该作者]

精度不够嘛!

 回到顶部