数值相减出错，怎么解决 - 专家坐堂 - Foxtable(狐表) - 新一代数据库软件，完美融合Access、Foxpro、Excel、vb.net之优势，人人都能掌握的快速软件开发工具!

Foxtable(狐表) → 用户栏目 → 专家坐堂 → 数值相减出错，怎么解决

共有3709人关注过本帖树形打印复制链接主题：数值相减出错，怎么解决

superapplesupera

小大 1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：婴狐帖子：1 积分：70 威望：0 精华：0 注册：2020/3/21 10:48:00

数值相减出错，怎么解决 发帖心情

Post By：2020/3/21 10:52:00 [只看该作者]

表格里的列A（单精度），程序里定义的变量B（单精度）赋值为0.935

当A=0.935,B=0.935 A-B出来的结果是-4.76837158647214E-09

当A=0.934,B=0.935 A-B出来的结果是-0.000999991893768315

、

谁知道这个是怎么回事？怎么解决呀

有点蓝

小大 2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：超级版主帖子：110592 积分：562856 威望：0 精华：9 注册：2015/6/24 9:21:00

Post By：2020/3/21 11:06:00 [只看该作者]

主题：数值相减出错，怎么解决