Rss & SiteMap

Foxtable(狐表) http://www.foxtable.com

新一代数据库软件,完美融合Access、Foxpro、Excel、vb.net之优势,人人都能掌握的快速软件开发工具!
共3 条记录, 每页显示 10 条, 页签: [1]
[浏览完整版]

标题:关于数值例小数位 小小疑问

1楼
卟离卟弃 发表于:2011/4/8 9:34:00


图片点击可在新窗口打开查看此主题相关图片如下:截图00.png
图片点击可在新窗口打开查看

 

AAAA列是表达式例,单精小数  公式 第二列*第三列   结果是 194984.3000(首先计算出来的是 194984.34,当设置列属性后,狐表自动省去了0.04)

 

我用EXCEL算出是 194984.34

 

小数位有差别,在财务对账中总是出现这样的问题,想知道oxTABLE在什么情况下把0.04去掉?

为什么没设置列属性前,0.04存在,而设置列属性后,0.04自动省去了?

 

 

2楼
狐狸爸爸 发表于:2011/4/8 9:45:00

呵呵,你为啥用单精度,精度有限,自然就这样了。

用双精度小数就没有这个问题。

 

关于数据类型,请看一下:

 

http://help.foxtable.com/topics/0029.htm

 

3楼
卟离卟弃 发表于:2011/4/8 9:49:00

考虑到存储空间问题,所以用了单精度

 

共3 条记录, 每页显示 10 条, 页签: [1]

Copyright © 2000 - 2018 foxtable.com Tel: 4000-810-820 粤ICP备11091905号

Powered By Dvbbs Version 8.3.0
Processed in .01904 s, 2 queries.