- Foxtable(狐表) (http://foxtable.net/bbs/index.asp)
-- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2)
---- [求助]统计数据：保留2位小数精度不准确 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=99255)
-- 发布时间：2017/4/15 16:02:00
-- [求助]统计数据：保留2位小数精度不准确
FOXtable工程师：
您好！
我有一个问题，想咨询您！请您抽时间帮忙解决一下，谢谢！ 缴费基数*缴费比例，在EXCEL中，通过调整“以显示精度为准”实际应为872.27。而在foxtable中通过convert命令，算出来是872.22，并不能实现精度值无误差，请问，如何解决？
[此贴子已经被作者于2017/4/15 16:46:40编辑过]
-- 发布时间：2017/4/15 16:04:00
--
测试没问题，请上传具体项目测试
http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&Id=78
-- 发布时间：2017/4/15 16:15:00
-- 精度值 不准确
用CONVERT 指令保留2位小数 无论 第三位小数是否是5以上 都舍位，不往前进一位什么原因？
[此贴子已经被作者于2017/4/15 16:46:07编辑过]
-- 发布时间：2017/4/15 16:17:00
--
请，正确上传文件。
-- 发布时间：2017/4/15 16:19:00
--
已经传完了，您看看
-- 发布时间：2017/4/15 16:20:00
--
这次应该没问题了，看看
[此贴子已经被作者于2017/4/15 16:46:54编辑过]
-- 发布时间：2017/4/15 16:21:00
--
您帮忙给看看吧，很急
-- 发布时间：2017/4/15 16:34:00
--
改一下公式
convert(缴费基数*0.005*100+0.01, \'System.Int64\') / 100
-- 发布时间：2017/4/15 16:38:00
--
为什么要加0.01？请说明下，我每个公式都得加么？
-- 发布时间：2017/4/15 16:44:00
--
以下是引用w414898760w在2017/4/15 16:38:00的发言：
为什么要加0.01？请说明下，我每个公式都得加么？
为什么要加0.01？请说明下，我每个公式都得加么？
因为公式的convert不是严格的四舍五入，而是四舍六入五成双，加0.01解决这个问题。