以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  公式无法用求教  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=122314)

--  作者:DEVILZC
--  发布时间:2018/7/23 10:02:00
--  公式无法用求教
Convert(\'System.Int64\',([排水量G4] - [排水量G2] + [舱内余水] - [船载泥浆容积V浆]) / 0.8 - 0.4999999 )
   全部都是数值列计算的,但这个公式显示表达式错误,错在哪里?

--  作者:有点甜
--  发布时间:2018/7/23 10:08:00
--  

写错了,这样写。

 

Convert(([排水量G4] - [排水量G2] + [舱内余水] - [船载泥浆容积V浆]) / 0.8 - 0.4999999, \'System.Int64\')


--  作者:DEVILZC
--  发布时间:2018/7/23 10:21:00
--  
 - 0.4999999,是舍去小数部分计算的意思吗?\'System.Int64\'在公式的代表什么意思?
--  作者:有点甜
--  发布时间:2018/7/23 10:23:00
--  

convert的意思,是把数值转换成整数的意思。

 

转换成整数的时候,默认是四舍五入的,如果你要舍去,那么减去0.49999,再四舍五入不就可以了?