- Foxtable(狐表) (http://foxtable.net/bbs/index.asp)
-- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2)
---- 关于数值例小数位 小小疑问 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=9403)
-- 发布时间：2011/4/8 9:34:00
-- 关于数值例小数位 小小疑问
此主题相关图片如下：截图00.png
AAAA列是表达式例，单精小数 公式 第二列*第三列 结果是 194984.3000(首先计算出来的是 194984.34，当设置列属性后，狐表自动省去了0.04)
我用EXCEL算出是 194984.34
小数位有差别，在财务对账中总是出现这样的问题，想知道oxTABLE在什么情况下把0.04去掉?
为什么没设置列属性前，0.04存在，而设置列属性后，0.04自动省去了？
-- 发布时间：2011/4/8 9:45:00
--
呵呵，你为啥用单精度，精度有限，自然就这样了。
用双精度小数就没有这个问题。
关于数据类型，请看一下：
http://help.foxtable.com/topics/0029.htm
-- 发布时间：2011/4/8 9:49:00
--
考虑到存储空间问题，所以用了单精度