以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  [求助]同一记录在两次计算后出现小数位不一样的情况  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=15878)

--  作者:singkwok
--  发布时间:2012/1/15 22:46:00
--  [求助]同一记录在两次计算后出现小数位不一样的情况


图片点击可在新窗口打开查看此主题相关图片如下:表达式小数问题.jpg
图片点击可在新窗口打开查看
如上图所示,我的数据表中有两个表达式字段:总用料量,净用料量

总用料量=备案单耗 / (1 - 损耗率)*单款总重量

净用料量=备案单耗*单款总重量

我将这两字段都设为了高精度小数,但在界面上出现了两个不一样的值,是小数位的问题,请问如何解决。

 

谢谢


--  作者:blackzhu
--  发布时间:2012/1/16 7:48:00
--  
如果是小数位的问题,请设置一下列属性
[此贴子已经被作者于2012-1-16 7:48:18编辑过]

--  作者:狐狸爸爸
--  发布时间:2012/1/16 14:33:00
--  

参考:

 

http://www.foxtable.com/help/topics/0108.htm

 


--  作者:singkwok
--  发布时间:2012/1/17 9:13:00
--  

以上两种方法试了还是不行,经过反复测试发现,小数点后五位正常,超过5位就不正常,有的记录会只取左五位。

是不是软件缺陷啊


--  作者:狐狸爸爸
--  发布时间:2012/1/17 9:25:00
--  
不是的,做个简单例子发上来吧。
--  作者:pijianqiang
--  发布时间:2012/1/17 9:51:00
--  

这是个计算精度问题。举个简单例子。你用计算器计算1除以3然后在乘以3就不会得1的。黄金只有四个9的精度。你是干什么行业的?计量仪器有那么高的精度吗?你的产品比黄金价值还高?


--  作者:狐狸爸爸
--  发布时间:2012/1/17 9:58:00
--  

我是帮你解决问题的,精度和小数位数都可以设置的。