Foxtable(狐表) → 用户栏目 → 专家坐堂 → [求助]小数点问题。


  共有4100人关注过本帖树形打印复制链接

主题：[求助]小数点问题。
帅哥哟，离线，有人找我吗？
2900819580
 小大  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：六尾狐 帖子：1353 积分：9868 威望：0 精华：0 注册：2015/6/30 8:46:00 		[求助]小数点问题。  发帖心情 Post By：2023/5/30 9:10:00 [只看该作者]

    SQL数据库，字段都是real 

        dr("CGM总价") = CDec(dr("CGM单价")) * CDec(dr("CGM数量")）

实际是： 974.9999 = 1.3 * 750      准确应该是975才对呀
 回到顶部
帅哥哟，离线，有人找我吗？
有点蓝
 小大  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：超级版主 帖子：111393 积分：567029 威望：0 精华：9 注册：2015/6/24 9:21:00 		  发帖心情 Post By：2023/5/30 9:13:00 [只看该作者]

"CGM总价"改为高精度。如果还不行，3个列都改为高精度

 回到顶部
帅哥哟，离线，有人找我吗？
2900819580
 小大  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：六尾狐 帖子：1353 积分：9868 威望：0 精华：0 注册：2015/6/30 8:46:00 		  发帖心情 Post By：2023/7/11 10:00:00 [只看该作者]

老师，三列都改成了numeric(18, 0) 都有时会出现，
用什么数据类型会好点。
[此贴子已经被作者于2023/7/11 10:04:31编辑过]
 回到顶部
帅哥哟，离线，有人找我吗？
有点蓝
 小大  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：超级版主 帖子：111393 积分：567029 威望：0 精华：9 注册：2015/6/24 9:21:00 		  发帖心情 Post By：2023/7/11 10:06:00 [只看该作者]

decimal，不是real。在Foxtable里改为高精度

 回到顶部
RSS2.0 | Xhtml无图版 | Xslt无图版 Copyright © 2000 - 2018 foxtable.com Tel: 4000-810-820 粤ICP备11091905号
   Powered By Dvbbs Version 8.3.0
页面执行时间 0.03516 秒, 4 次数据查询