以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  [求助]小数点问题。  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=186796)

--  作者:2900819580
--  发布时间:2023/5/30 9:10:00
--  [求助]小数点问题。
    SQL数据库,字段都是real 

        dr("CGM总价") = CDec(dr("CGM单价")) * CDec(dr("CGM数量"))

实际是: 974.9999 = 1.3 * 750      准确应该是975才对呀

--  作者:有点蓝
--  发布时间:2023/5/30 9:13:00
--  
"CGM总价"改为高精度。如果还不行,3个列都改为高精度
--  作者:2900819580
--  发布时间:2023/7/11 10:00:00
--  
老师,三列都改成了numeric(18, 0) 都有时会出现,
用什么数据类型会好点。
[此贴子已经被作者于2023/7/11 10:04:31编辑过]

--  作者:有点蓝
--  发布时间:2023/7/11 10:06:00
--  
decimal,不是real。在Foxtable里改为高精度