| 以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- 汇总求和准确性问题 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=48586) |
| -- 作者：bahamute -- 发布时间：2014/4/1 13:25:00 -- 汇总求和准确性问题 对销售数据汇总，金额列明明为3330.63万元，为何合计数却为3330.6229万元，这个与双精度有关吗？合计行能否设置有效位数？ |
| -- 作者：Bin -- 发布时间：2014/4/1 14:20:00 -- 四舍五入了, 也有可能是双进度小数误差. |
| -- 作者：有点甜 -- 发布时间：2014/4/1 14:38:00 -- 如果需要精确计算，把双精度改成高精度，就不会有误差了。 |