以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- 结果怎么会是这样? (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=114275) |
-- 作者:狂风暴雨狂波 -- 发布时间:2018/2/2 10:19:00 -- 结果怎么会是这样? e.Form.Controls("NumericComboBox1").Value = 11439.52+80678.73+197117.54 为什么值显示为289235.79000000004? |
-- 作者:有点甜 -- 发布时间:2018/2/2 10:34:00 -- e.Form.Controls("NumericComboBox1").text = 11439.52+80678.73+197117.54 |
-- 作者:狂风暴雨狂波 -- 发布时间:2018/2/2 10:49:00 -- 为什么将197117.54 改成197117.53结果就不会出现这种情况,只要改成197117.54就成这样啦 |
-- 作者:有点甜 -- 发布时间:2018/2/2 10:58:00 -- 以下是引用狂风暴雨狂波在2018/2/2 10:49:00的发言:
为什么将197117.54 改成197117.53结果就不会出现这种情况,只要改成197117.54就成这样啦
小数计算的时候,是会丢失精度的,正常情况。 |
-- 作者:狂风暴雨狂波 -- 发布时间:2018/2/2 11:46:00 -- 那比较大小的时候只能用text来比较啦,text可不可以用来比较大小? |
-- 作者:有点甜 -- 发布时间:2018/2/2 11:56:00 -- 以下是引用狂风暴雨狂波在2018/2/2 11:46:00的发言:
那比较大小的时候只能用text来比较啦,text可不可以用来比较大小?
把text转换成数字不就好了?用val函数。 |