Foxtable(狐表)用户栏目专家坐堂 → [求助]小数位数


  共有3477人关注过本帖树形打印复制链接

主题:[求助]小数位数

帅哥哟,离线,有人找我吗?
moseser
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:三尾狐 帖子:622 积分:5303 威望:0 精华:0 注册:2022/4/4 14:42:00
[求助]小数位数  发帖心情 Post By:2023/6/17 16:01:00 [只看该作者]

最大小数位数是4位,输入的时候也是4位,为什么用messagebox.show出来有很多位数,数字也不相等了?
图片点击可在新窗口打开查看此主题相关图片如下:微信截图_20230617155905.png
图片点击可在新窗口打开查看

 回到顶部
帅哥哟,离线,有人找我吗?
moseser
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:三尾狐 帖子:622 积分:5303 威望:0 精华:0 注册:2022/4/4 14:42:00
回复:(moseser)[求助]小数位数  发帖心情 Post By:2023/6/17 16:04:00 [只看该作者]

比如 原来是,8.9331  然后,让这个数字减去8 之后,就出现问题了,结果是0.93310000000001 这样?

 回到顶部
帅哥哟,离线,有人找我吗?
有点蓝
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:110574 积分:562760 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2023/6/17 16:28:00 [只看该作者]

把这个列改为高精度列

 回到顶部