以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- 四舍五入问题 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=11082) |
-- 作者:llh641008 -- 发布时间:2011/7/7 10:06:00 -- 四舍五入问题 数据表对有的数据不能四舍五入是怎么回事? 我用的表达式:Convert([面积]*[单价],\'System.Int64\') 表达式应该没问题,有的数据是可以四舍五入的 例如: 67.87*2480=168318 而67.87*2550=173068 为啥回事这样的? |
-- 作者:狐狸爸爸 -- 发布时间:2011/7/7 10:16:00 -- Convert([面积]*[单价] + 0.00001,\'System.Int64\') |
-- 作者:llh641008 -- 发布时间:2011/7/7 16:10:00 -- 是什么原因造成的? 其他的数据列也需要修改表达式吗? |
-- 作者:狐狸爸爸 -- 发布时间:2011/7/7 16:20:00 -- 四舍六入五成双是一种精确度的计数保留法.这里"四"是小于五的意思,"六"是大于五的意思,"五"是舍入位之后的尾数逢五的话看前一位,奇进偶不进。如1.25保留一位小数,因为2是偶数,所以是1.2。又如1.35,因为3是奇数,所以是1.4。 |
-- 作者:程兴刚 -- 发布时间:2011/7/7 16:27:00 --
http://baike.baidu.com/view/924477.htm |