有小数位的减法也必须要用高精度小数吗？ - 专家坐堂 - Foxtable(狐表) - 新一代数据库软件，完美融合Access、Foxpro、Excel、vb.net之优势，人人都能掌握的快速软件开发工具!

Foxtable(狐表) → 用户栏目 → 专家坐堂 → 有小数位的减法也必须要用高精度小数吗？

共有3076人关注过本帖树形打印复制链接主题：有小数位的减法也必须要用高精度小数吗？

sky-18

小大 1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：三尾狐帖子：655 积分：5004 威望：0 精华：0 注册：2011/11/26 17:46:00

有小数位的减法也必须要用高精度小数吗？ 发帖心情

Post By：2015/8/31 15:35:00 [显示全部帖子]

Dim a As Double

Dim b As Double

Dim c As Double

a = 93218.4

b = 100000

c = b - a

Output.show(c)

最后结果是 2153.60000000001。

结果明显是错的呀。

帮助上说double在做比较的时候会出现“1<> 1”的情况，但并没有说显示结果会出现这种错误啊。

但是换成高精度小数后结果就没问题了。

不过帮助文件上是不推荐一般的运算用高精度的啊。

莫非是我哪里没搞对。

求老师们指点

sky-18

小大 2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：三尾狐帖子：655 积分：5004 威望：0 精华：0 注册：2011/11/26 17:46:00

Post By：2015/8/31 16:05:00 [显示全部帖子]

用高精度代替的话会不会让运算量太大？

主题：有小数位的减法也必须要用高精度小数吗？