Foxtable(狐表)用户栏目专家坐堂 → [求助]表达式四舍五入的数据怎么不对啊


  共有4131人关注过本帖树形打印复制链接

主题:[求助]表达式四舍五入的数据怎么不对啊

帅哥哟,离线,有人找我吗?
hrw68529
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:五尾狐 帖子:1142 积分:8900 威望:0 精华:0 注册:2012/7/10 9:09:00
[求助]表达式四舍五入的数据怎么不对啊  发帖心情 Post By:2014/5/6 9:14:00 [显示全部帖子]

表达式为:IIF(IsNull([笔试成绩],0) + IsNull([面试成绩],0) = 0,0,Convert(([笔试成绩]*0.5 + [面试成绩]*0.5) * 100, 'System.Int64')  / 100)
例如数据:笔试成绩为:59.79,面试成绩为:88.6,总成绩(保留两位小数)算法为:笔试成绩*0.5+面试成绩*0.5,用表达式算算出来的数据为:74.19,而用计算器算出的是:74.20,错在哪儿了,请赐教,谢谢

 回到顶部
帅哥哟,离线,有人找我吗?
hrw68529
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:五尾狐 帖子:1142 积分:8900 威望:0 精华:0 注册:2012/7/10 9:09:00
  发帖心情 Post By:2014/5/6 9:27:00 [显示全部帖子]

改为高精度小数,同样出现上述问题,求解

 回到顶部
帅哥哟,离线,有人找我吗?
hrw68529
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:五尾狐 帖子:1142 积分:8900 威望:0 精华:0 注册:2012/7/10 9:09:00
  发帖心情 Post By:2014/5/6 10:55:00 [显示全部帖子]

如何是保留小数点后两位的,应该是+0.001吗

 回到顶部
帅哥哟,离线,有人找我吗?
hrw68529
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:五尾狐 帖子:1142 积分:8900 威望:0 精华:0 注册:2012/7/10 9:09:00
  发帖心情 Post By:2014/5/6 11:01:00 [显示全部帖子]

如果保留小数点后两位,+0.001,刚好和计算器计算的对上了,谢谢有点甜,真厉害

 回到顶部
帅哥哟,离线,有人找我吗?
hrw68529
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:五尾狐 帖子:1142 积分:8900 威望:0 精华:0 注册:2012/7/10 9:09:00
  发帖心情 Post By:2014/5/6 11:14:00 [显示全部帖子]

但又遇到一个问题,举例:小数点后保留两位,如:3.354,如果+0.001,变成了3.355,3.354的时候保留2位为:3.35,而加上0.001后,再保留两位时,就变成了3.36,这怎么解决,谢谢

 回到顶部