以文本方式查看主题
- Foxtable(狐表) (http://foxtable.net/bbs/index.asp)
-- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2)
---- [求助]大神,表达式的四舍五入并不精确 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=127966)
|
-- 作者:ls93005
-- 发布时间:2018/11/26 11:46:00
-- [求助]大神,表达式的四舍五入并不精确
此主题相关图片如下:tim截图20181126114554.png
现在的问题是。直接用帮助中的表达式代码,则5并不入,然而使用(原数据+0.001)则4也入。此主题相关图片如下:tim截图20181126114328.png
|
-- 作者:有点甜
-- 发布时间:2018/11/26 11:52:00
--
表达式的是 四舍六入五成双。你可以改成,如
Convert((的士列+0.0001) * 100, \'System.Int64\') / 100
|
-- 作者:ls93005
-- 发布时间:2018/11/26 12:02:00
-- 回复:(有点甜)表达式的是 四舍六入五成双。你可以改...
也就是位数再加一位是吗?其实刚刚我已经试出来了,但不确定怕在大量计算时再出错,我做财务计算一分都不能差。
但是五成双是啥意思呢?谢谢!
|
-- 作者:有点甜
-- 发布时间:2018/11/26 12:06:00
--
以下是引用ls93005在2018/11/26 12:02:00的发言: 也就是位数再加一位是吗?其实刚刚我已经试出来了,但不确定怕在大量计算时再出错,我做财务计算一分都不能差。但是五成双是啥意思呢?谢谢!
比如 1.245 和 1.255 和 1.265 当是5的时候,最后的结果是双数,如 1.24 和 1.26 和 1.26 这样的结果。是四舍五入的一种变形而已,得到的数据更精确。
|
-- 作者:ls93005
-- 发布时间:2018/11/26 12:12:00
-- 回复:(有点甜)以下是引用ls93005在2018/11/26 12:0...
谢谢大神
|