以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  SUM等于0时的问题  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=100963)
--  作者：douglas738888
--  发布时间：2017/5/22 15:35:00
--  SUM等于0时的问题

请教老师，下面代码，如果sum=0时，TEXT显示 1.11022302462516E-16  不是0.0

 

参数值例如：-1.0，-2.0 ,0.0 ，1.0, 2.0     计算下来是0.0

 

Dim Count03 As Double
Count03 = DataTables("因子库主表").Compute("Sum(参数计量)")

Dim lbl03 As WinForm.Label
lbl03 = e.Form.Controls("Label16")
lbl03.Text = "因子参数计量总值: 总因子值为 " & Count03  & ""
--  作者：有点色
--  发布时间：2017/5/22 16:17:00
--  

Dim Count03 As Double
Count03 = DataTables("因子库主表").Compute("Sum(参数计量)")

Dim lbl03 As WinForm.Label
lbl03 = e.Form.Controls("Label16")
lbl03.Text = "因子参数计量总值: 总因子值为 " & val(Format(Count03, "0.0000"))& ""

[此贴子已经被作者于2017/5/22 16:17:39编辑过]