以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- [求助]Decimal数据类型依然1≠1的问题 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=130029) |
-- 作者:mositu -- 发布时间:2019/1/11 13:47:00 -- [求助]Decimal数据类型依然1≠1的问题 检查借贷是否平衡出现一个问题: Dim a As Decimal = 24+51.2+36-112 Dim b As Decimal = -0.8 If a = b Then Output.Show(1) Else Output.Show(2) End If 应该是相等的,结果是不等,求指点
|
-- 作者:有点甜 -- 发布时间:2019/1/11 15:11:00 -- Dim a As Decimal = CDec(24)+CDec(51.2)+CDec(36)-CDec(112) Dim b As Decimal = -0.8 msgbox(a) If a = b Then Output.Show(1) Else Output.Show(2) End If |
-- 作者:有点甜 -- 发布时间:2019/1/11 15:12:00 --
运算的时候,用的是int或者double计算的。
|
-- 作者:mositu -- 发布时间:2019/1/11 16:31:00 -- 明白了,谢谢 |