Foxtable(狐表)用户栏目专家坐堂 → 为什么输出的结果不一样?


  共有921人关注过本帖树形打印复制链接

主题:为什么输出的结果不一样?

帅哥哟,离线,有人找我吗?
有点蓝
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:110443 积分:562081 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2024/9/13 13:31:00 [显示全部帖子]

我也不懂。不过如果对结果准确度要求高的,建议还是使用变量的方式

Dim d As Decimal = 4.5 * 7.1323
Output.Show(d)
Output.Show(round2(d, 4))


 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:110443 积分:562081 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2024/9/13 14:14:00 [显示全部帖子]

计算内部的原理不清楚,也许是精度的问题,类似:http://www.foxtable.com/webhelp/topics/1829.htm

 回到顶部