Foxtable(狐表)用户栏目专家坐堂 → SUM等于0时的问题


  共有1971人关注过本帖树形打印复制链接

主题:SUM等于0时的问题

帅哥哟,离线,有人找我吗?
douglas738888
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:五尾狐 帖子:1174 积分:8782 威望:0 精华:0 注册:2012/4/18 16:28:00
SUM等于0时的问题  发帖心情 Post By:2017/5/22 15:35:00 [只看该作者]

请教老师,下面代码,如果sum=0时,TEXT显示 1.11022302462516E-16  不是0.0

 

参数值例如:-1.0,-2.0 ,0.0 ,1.0, 2.0     计算下来是0.0

 

Dim Count03 As Double
Count03 = DataTables("因子库主表").Compute("Sum(参数计量)")

Dim lbl03 As WinForm.Label
lbl03 = e.Form.Controls("Label16")
lbl03.Text = "因子参数计量总值: 总因子值为 " & Count03  & ""


 回到顶部
帅哥哟,离线,有人找我吗?
有点色
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:13837 积分:69650 威望:0 精华:0 注册:2016/11/1 14:42:00
  发帖心情 Post By:2017/5/22 16:17:00 [只看该作者]

Dim Count03 As Double
Count03 = DataTables("因子库主表").Compute("Sum(参数计量)")

Dim lbl03 As WinForm.Label
lbl03 = e.Form.Controls("Label16")
lbl03.Text = "因子参数计量总值: 总因子值为 " & val(Format(Count03, "0.0000"))& ""

[此贴子已经被作者于2017/5/22 16:17:39编辑过]

 回到顶部