以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- [A]*1000+[B]*100+[C]:表达式计算提示错误 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=73734) |
-- 作者:lake163 -- 发布时间:2015/8/25 15:52:00 -- [A]*1000+[B]*100+[C]:表达式计算提示错误 一个表有A、B、C、D四列,A(最大9999)、B(最大9)、C(最大99)为短整数,D为整数,且为表达式列。当公式设为[A]*1000+[B]+[C]没有错误,但设为[A]*1000+[B]*100+[C]时,就提示:值对于类型BYTE而言或者太大或者太小。请问是什么原因啊? [此贴子已经被作者于2015/8/25 15:58:11编辑过]
|
-- 作者:大红袍 -- 发布时间:2015/8/25 16:01:00 -- 精度问题,全部都改成整数。
http://www.foxtable.com/help/topics/0029.htm
|
-- 作者:lake163 -- 发布时间:2015/8/25 16:10:00 -- 问题确实如此,但难以理解 [此贴子已经被作者于2015/8/25 16:11:10编辑过]
|
-- 作者:大红袍 -- 发布时间:2015/8/25 16:13:00 -- 计算后,肯定超出了范围。全部换成整数。 |