以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- 运算结果溢出,怎么回事啊? (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=179029) |
-- 作者:zwaner -- 发布时间:2022/8/3 23:08:00 -- 运算结果溢出,怎么回事啊? Convert((IIF([方向] =\'买入\',[买卖价格] * [数量] * 100.001/100+[买卖价格] * [数量] *0.00687/100 + [买卖价格] * [数量] * 0.0002+IIF(([买卖价格] * [数量] *0.00687/100 + [买卖价格] * [数量] * 0.0002)<5,5-([买卖价格] * [数量] *0.00687/100 + [买卖价格] * [数量] * 0.0002),0),([买卖价格] * [数量] *(-1)*0.001/100+[买卖价格] * [数量] *(-1)*0.00687/100 + [买卖价格] * [数量] *(-1)* 0.0002+IIF(([买卖价格] * [数量] *(-1)*0.00687/100 + [买卖价格] * [数量] *(-1)* 0.0002)<5,5-([买卖价格] * [数量]*(-1) *0.00687/100 + [买卖价格] * [数量] *(-1)*0.0002),0)+[买卖价格] * [数量] *(-1)*0.001)+[买卖价格] * [数量])*100),\'System.Int64\') / 100 |
-- 作者:有点蓝 -- 发布时间:2022/8/4 8:41:00 -- 计算结果超出了长整数能够表示的范围,改为高精度试试 |