| 以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- 表达式计算来的列，获取值的问题 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=95088) |
| -- 作者：gryy -- 发布时间：2017/1/10 8:43:00 -- 表达式计算来的列，获取值的问题 入库数 4 -出库数 4 表达式列 [结余数] =[入库数] - [出库数] = 0 ， Dim t As Double = Tables("wlkc").Current("结余数") 获取这个数字却显示：5.32907051820075E-15 这个怎么处理呢 就是表达式列看到的结果和获取的结果不一致，有很多小数
[此贴子已经被作者于2017/1/10 8:52:40编辑过]
|
| -- 作者：有点蓝 -- 发布时间：2017/1/10 8:51:00 -- 入库数和出库数是什么类型的列？整型？ |
| -- 作者：gryy -- 发布时间：2017/1/10 8:51:00 -- double 怎么上传不了附件 [此贴子已经被作者于2017/1/10 9:02:16编辑过]
|
| -- 作者：gryy -- 发布时间：2017/1/10 9:02:00 -- Dim t1 As Double = Tables("wlkc").Current("期初数量") Dim t2 As Double = Tables("wlkc").Current("入库数量_车间") Dim t3 As Double = Tables("wlkc").Current("使用量") Dim t4 As Double = Tables("wlkc").Current("库存结余_车间") Output.show(t1) Output.show(t2) Output.show(t3) Output.show(t4) 0.42 19.5 19.92 -1.72084568816899E-15 |
| -- 作者：有点蓝 -- 发布时间：2017/1/10 9:05:00 -- 改为高精度进行计算 |