Rss & SiteMap

Foxtable(狐表) http://www.foxtable.com

新一代数据库软件,完美融合Access、Foxpro、Excel、vb.net之优势,人人都能掌握的快速软件开发工具!
共3 条记录, 每页显示 10 条, 页签: [1]
[浏览完整版]

标题:小数精度问题(已解决)

1楼
i52117 发表于:2010/11/13 10:59:00

请高手指点,如何使合计不差0.01,把列类型改成双精度、高精度都不行

 


图片点击可在新窗口打开查看此主题相关图片如下:未命名.jpg
图片点击可在新窗口打开查看

s1 表达式:  ([第二列] + [第三列] + [第四列]) * [第八列]

s2 表达式: ([第二列] + [第三列] + [第四列]) * [第九列]

s3 表达式: ([第二列] + [第三列] + [第四列]) * [第十列]

ss 表达式: [s1] + [s2] + [s3]

 

3.59+1.20+5.98=10.77      上图 表达式计算得 10.76

 

怎样以显示值为准?

[此贴子已经被作者于2010-11-13 14:09:31编辑过]
2楼
blackzhu 发表于:2010/11/13 12:39:00

是不是控制位数?

3楼
i52117 发表于:2010/11/13 14:13:00
用 Convert 貌似可以了,就是表达式麻烦了点
共3 条记录, 每页显示 10 条, 页签: [1]

Copyright © 2000 - 2018 foxtable.com Tel: 4000-810-820 粤ICP备11091905号

Powered By Dvbbs Version 8.3.0
Processed in .02200 s, 2 queries.