Foxtable(狐表)用户栏目专家坐堂 → [A]*1000+[B]*100+[C]:表达式计算提示错误


  共有2418人关注过本帖树形打印复制链接

主题:[A]*1000+[B]*100+[C]:表达式计算提示错误

帅哥哟,离线,有人找我吗?
lake163
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:276 积分:2971 威望:0 精华:0 注册:2010/9/20 11:21:00
[A]*1000+[B]*100+[C]:表达式计算提示错误  发帖心情 Post By:2015/8/25 15:52:00 [只看该作者]

一个表有A、B、C、D四列,A(最大9999)、B(最大9)、C(最大99)为短整数,D为整数,且为表达式列。当公式设为[A]*1000+[B]+[C]没有错误,但设为[A]*1000+[B]*100+[C]时,就提示:值对于类型BYTE而言或者太大或者太小。请问是什么原因啊?
[此贴子已经被作者于2015/8/25 15:58:11编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
大红袍
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:39310 积分:196782 威望:0 精华:1 注册:2015/4/25 9:23:00
  发帖心情 Post By:2015/8/25 16:01:00 [只看该作者]

精度问题,全部都改成整数。

 

http://www.foxtable.com/help/topics/0029.htm

 


 回到顶部
帅哥哟,离线,有人找我吗?
lake163
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:童狐 帖子:276 积分:2971 威望:0 精华:0 注册:2010/9/20 11:21:00
  发帖心情 Post By:2015/8/25 16:10:00 [只看该作者]

问题确实如此,但难以理解
[此贴子已经被作者于2015/8/25 16:11:10编辑过]

 回到顶部
帅哥哟,离线,有人找我吗?
大红袍
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:39310 积分:196782 威望:0 精华:1 注册:2015/4/25 9:23:00
  发帖心情 Post By:2015/8/25 16:13:00 [只看该作者]

 计算后,肯定超出了范围。全部换成整数。

 回到顶部