Foxtable(狐表)用户栏目专家坐堂 → [求助]Decimal数据类型依然1≠1的问题


  共有2634人关注过本帖树形打印复制链接

主题:[求助]Decimal数据类型依然1≠1的问题

帅哥哟,离线,有人找我吗?
mositu
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:112 积分:1148 威望:0 精华:0 注册:2012/3/28 13:02:00
[求助]Decimal数据类型依然1≠1的问题  发帖心情 Post By:2019/1/11 13:47:00 [只看该作者]

检查借贷是否平衡出现一个问题:
Dim a As Decimal = 24+51.2+36-112
Dim b As Decimal = -0.8
If a = b Then
    Output.Show(1)
Else
    Output.Show(2)
End If
应该是相等的,结果是不等,求指点

 回到顶部
帅哥哟,离线,有人找我吗?
有点甜
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:版主 帖子:85326 积分:427815 威望:0 精华:5 注册:2012/10/18 22:13:00
  发帖心情 Post By:2019/1/11 15:11:00 [只看该作者]

Dim a As Decimal = CDec(24)+CDec(51.2)+CDec(36)-CDec(112)
Dim b As Decimal = -0.8
msgbox(a)
If a = b Then
    Output.Show(1)
Else
    Output.Show(2)
End If

 回到顶部
帅哥哟,离线,有人找我吗?
有点甜
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:版主 帖子:85326 积分:427815 威望:0 精华:5 注册:2012/10/18 22:13:00
  发帖心情 Post By:2019/1/11 15:12:00 [只看该作者]

 

运算的时候,用的是int或者double计算的。

 


 回到顶部
帅哥哟,离线,有人找我吗?
mositu
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:幼狐 帖子:112 积分:1148 威望:0 精华:0 注册:2012/3/28 13:02:00
  发帖心情 Post By:2019/1/11 16:31:00 [只看该作者]

明白了,谢谢

 回到顶部