Foxtable(狐表)用户栏目专家坐堂 → 汇总求和准确性问题


  共有3722人关注过本帖树形打印复制链接

主题:汇总求和准确性问题

帅哥哟,离线,有人找我吗?
bahamute
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:六尾狐 帖子:1425 积分:11332 威望:0 精华:0 注册:2008/9/1 22:20:00
汇总求和准确性问题  发帖心情 Post By:2014/4/1 13:25:00 [只看该作者]

对销售数据汇总,金额列明明为3330.63万元,为何合计数却为3330.6229万元,这个与双精度有关吗?合计行能否设置有效位数?

 回到顶部
帅哥哟,离线,有人找我吗?
Bin
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:35433 积分:178524 威望:0 精华:3 注册:2013/3/30 16:36:00
  发帖心情 Post By:2014/4/1 14:20:00 [只看该作者]

四舍五入了,  也有可能是双进度小数误差.     



 回到顶部
帅哥哟,离线,有人找我吗?
有点甜
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:版主 帖子:85326 积分:427815 威望:0 精华:5 注册:2012/10/18 22:13:00
  发帖心情 Post By:2014/4/1 14:38:00 [只看该作者]

 如果需要精确计算,把双精度改成高精度,就不会有误差了。


 回到顶部