以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  [求助]大神,表达式的四舍五入并不精确  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=127966)

--  作者:ls93005
--  发布时间:2018/11/26 11:46:00
--  [求助]大神,表达式的四舍五入并不精确

图片点击可在新窗口打开查看此主题相关图片如下:tim截图20181126114554.png
图片点击可在新窗口打开查看
现在的问题是。直接用帮助中的表达式代码,则5并不入,然而使用(原数据+0.001)则4也入。

图片点击可在新窗口打开查看此主题相关图片如下:tim截图20181126114328.png
图片点击可在新窗口打开查看


--  作者:有点甜
--  发布时间:2018/11/26 11:52:00
--  

表达式的是 四舍六入五成双。你可以改成,如

 

Convert((的士列+0.0001) * 100, \'System.Int64\') / 100


--  作者:ls93005
--  发布时间:2018/11/26 12:02:00
--  回复:(有点甜)表达式的是 四舍六入五成双。你可以改...
也就是位数再加一位是吗?其实刚刚我已经试出来了,但不确定怕在大量计算时再出错,我做财务计算一分都不能差。 但是五成双是啥意思呢?谢谢!
--  作者:有点甜
--  发布时间:2018/11/26 12:06:00
--  
以下是引用ls93005在2018/11/26 12:02:00的发言:
也就是位数再加一位是吗?其实刚刚我已经试出来了,但不确定怕在大量计算时再出错,我做财务计算一分都不能差。但是五成双是啥意思呢?谢谢!

 

比如 1.245 和 1.255 和 1.265 当是5的时候,最后的结果是双数,如 1.24 和 1.26 和 1.26 这样的结果。是四舍五入的一种变形而已,得到的数据更精确。


--  作者:ls93005
--  发布时间:2018/11/26 12:12:00
--  回复:(有点甜)以下是引用ls93005在2018/11/26 12:0...
谢谢大神