主题：[求助]同一记录在两次计算后出现小数位不一样的情况

此主题相关图片如下：表达式小数问题.jpg

如上图所示，我的数据表中有两个表达式字段：总用料量，净用料量

总用料量=备案单耗 / (1 - 损耗率)*单款总重量

净用料量=备案单耗*单款总重量

我将这两字段都设为了高精度小数，但在界面上出现了两个不一样的值，是小数位的问题，请问如何解决。

谢谢

参考：

http://www.foxtable.com/help/topics/0108.htm

以上两种方法试了还是不行，经过反复测试发现，小数点后五位正常，超过5位就不正常，有的记录会只取左五位。

是不是软件缺陷啊

这是个计算精度问题。举个简单例子。你用计算器计算1除以3然后在乘以3就不会得1的。黄金只有四个9的精度。你是干什么行业的？计量仪器有那么高的精度吗？你的产品比黄金价值还高？

我是帮你解决问题的，精度和小数位数都可以设置的。