Foxtable(狐表)用户栏目专家坐堂 → [求助]小数点问题。


  共有4097人关注过本帖树形打印复制链接

主题:[求助]小数点问题。

帅哥哟,离线,有人找我吗?
2900819580
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:六尾狐 帖子:1353 积分:9868 威望:0 精华:0 注册:2015/6/30 8:46:00
[求助]小数点问题。  发帖心情 Post By:2023/5/30 9:10:00 [只看该作者]

    SQL数据库,字段都是real 

        dr("CGM总价") = CDec(dr("CGM单价")) * CDec(dr("CGM数量"))

实际是: 974.9999 = 1.3 * 750      准确应该是975才对呀

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:111381 积分:566969 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2023/5/30 9:13:00 [只看该作者]

"CGM总价"改为高精度。如果还不行,3个列都改为高精度

 回到顶部
帅哥哟,离线,有人找我吗?
2900819580
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:六尾狐 帖子:1353 积分:9868 威望:0 精华:0 注册:2015/6/30 8:46:00
  发帖心情 Post By:2023/7/11 10:00:00 [只看该作者]

老师,三列都改成了numeric(18, 0) 都有时会出现,
用什么数据类型会好点。
[此贴子已经被作者于2023/7/11 10:04:31编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:111381 积分:566969 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2023/7/11 10:06:00 [只看该作者]

decimal,不是real。在Foxtable里改为高精度

 回到顶部