| 以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- [求助]小数点问题。 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=186796) |
| -- 作者：2900819580 -- 发布时间：2023/5/30 9:10:00 -- [求助]小数点问题。 SQL数据库，字段都是real dr("CGM总价") = CDec(dr("CGM单价")) * CDec(dr("CGM数量")） 实际是： 974.9999 = 1.3 * 750 准确应该是975才对呀
|
| -- 作者：有点蓝 -- 发布时间：2023/5/30 9:13:00 -- "CGM总价"改为高精度。如果还不行，3个列都改为高精度 |
| -- 作者：2900819580 -- 发布时间：2023/7/11 10:00:00 -- 老师，三列都改成了numeric(18, 0) 都有时会出现， 用什么数据类型会好点。
[此贴子已经被作者于2023/7/11 10:04:31编辑过]
|
| -- 作者：有点蓝 -- 发布时间：2023/7/11 10:06:00 -- decimal，不是real。在Foxtable里改为高精度 |