以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  [求助]Decimal数据类型依然1≠1的问题  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=130029)

--  作者:mositu
--  发布时间:2019/1/11 13:47:00
--  [求助]Decimal数据类型依然1≠1的问题
检查借贷是否平衡出现一个问题:
Dim a As Decimal = 24+51.2+36-112
Dim b As Decimal = -0.8
If a = b Then
    Output.Show(1)
Else
    Output.Show(2)
End If
应该是相等的,结果是不等,求指点

--  作者:有点甜
--  发布时间:2019/1/11 15:11:00
--  
Dim a As Decimal = CDec(24)+CDec(51.2)+CDec(36)-CDec(112)
Dim b As Decimal = -0.8
msgbox(a)
If a = b Then
    Output.Show(1)
Else
    Output.Show(2)
End If

--  作者:有点甜
--  发布时间:2019/1/11 15:12:00
--  

 

运算的时候,用的是int或者double计算的。

 


--  作者:mositu
--  发布时间:2019/1/11 16:31:00
--  
明白了,谢谢