Foxtable(狐表)用户栏目专家坐堂 → [求助]统计数据:保留2位小数精度不准确


  共有2451人关注过本帖树形打印复制链接

主题:[求助]统计数据:保留2位小数精度不准确

帅哥哟,离线,有人找我吗?
w414898760w
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:7 积分:100 威望:0 精华:0 注册:2017/4/15 15:28:00
[求助]统计数据:保留2位小数精度不准确  发帖心情 Post By:2017/4/15 16:02:00 [只看该作者]

FOXtable工程师:
您好!
      我有一个问题,想咨询您!请您抽时间帮忙解决一下,谢谢!
      缴费基数*缴费比例,在EXCEL中,通过调整“以显示精度为准”实际应为872.27。而在foxtable中通过convert命令,算出来是872.22,并不能实现精度值无误差,请问,如何解决?图片点击可在新窗口打开查看
[此贴子已经被作者于2017/4/15 16:46:40编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
有点色
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:13837 积分:69650 威望:0 精华:0 注册:2016/11/1 14:42:00
  发帖心情 Post By:2017/4/15 16:04:00 [只看该作者]

 测试没问题,请上传具体项目测试

 

http://www.foxtable.com/bbs/dispbbs.asp?boardid=2&Id=78

 


 回到顶部
帅哥哟,离线,有人找我吗?
w414898760w
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:7 积分:100 威望:0 精华:0 注册:2017/4/15 15:28:00
精度值 不准确  发帖心情 Post By:2017/4/15 16:15:00 [只看该作者]

用CONVERT 指令保留2位小数 无论 第三位小数是否是5以上 都舍位,不往前进一位什么原因?



[此贴子已经被作者于2017/4/15 16:46:07编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
有点色
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:13837 积分:69650 威望:0 精华:0 注册:2016/11/1 14:42:00
  发帖心情 Post By:2017/4/15 16:17:00 [只看该作者]

请,正确上传文件。


 回到顶部
帅哥哟,离线,有人找我吗?
w414898760w
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:7 积分:100 威望:0 精华:0 注册:2017/4/15 15:28:00
  发帖心情 Post By:2017/4/15 16:19:00 [只看该作者]

已经传完了,您看看

 回到顶部
帅哥哟,离线,有人找我吗?
w414898760w
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:7 积分:100 威望:0 精华:0 注册:2017/4/15 15:28:00
  发帖心情 Post By:2017/4/15 16:20:00 [只看该作者]

这次应该没问题了,看看

[此贴子已经被作者于2017/4/15 16:46:54编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
w414898760w
  7楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:7 积分:100 威望:0 精华:0 注册:2017/4/15 15:28:00
  发帖心情 Post By:2017/4/15 16:21:00 [只看该作者]

您帮忙给看看吧,很急

 回到顶部
帅哥哟,离线,有人找我吗?
有点色
  8楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:13837 积分:69650 威望:0 精华:0 注册:2016/11/1 14:42:00
  发帖心情 Post By:2017/4/15 16:34:00 [只看该作者]

改一下公式

 

convert(缴费基数*0.005*100+0.01, 'System.Int64') / 100


 回到顶部
帅哥哟,离线,有人找我吗?
w414898760w
  9楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:7 积分:100 威望:0 精华:0 注册:2017/4/15 15:28:00
  发帖心情 Post By:2017/4/15 16:38:00 [只看该作者]

为什么要加0.01?请说明下,我每个公式都得加么?

 回到顶部
帅哥哟,离线,有人找我吗?
有点色
  10楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:13837 积分:69650 威望:0 精华:0 注册:2016/11/1 14:42:00
  发帖心情 Post By:2017/4/15 16:44:00 [只看该作者]

以下是引用w414898760w在2017/4/15 16:38:00的发言:
为什么要加0.01?请说明下,我每个公式都得加么?

 

因为公式的convert不是严格的四舍五入,而是四舍六入五成双,加0.01解决这个问题。


 回到顶部
总数 11 1 2 下一页