以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  [A]*1000+[B]*100+[C]:表达式计算提示错误  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=73734)

--  作者:lake163
--  发布时间:2015/8/25 15:52:00
--  [A]*1000+[B]*100+[C]:表达式计算提示错误
一个表有A、B、C、D四列,A(最大9999)、B(最大9)、C(最大99)为短整数,D为整数,且为表达式列。当公式设为[A]*1000+[B]+[C]没有错误,但设为[A]*1000+[B]*100+[C]时,就提示:值对于类型BYTE而言或者太大或者太小。请问是什么原因啊?
[此贴子已经被作者于2015/8/25 15:58:11编辑过]

--  作者:大红袍
--  发布时间:2015/8/25 16:01:00
--  

精度问题,全部都改成整数。

 

http://www.foxtable.com/help/topics/0029.htm

 


--  作者:lake163
--  发布时间:2015/8/25 16:10:00
--  
问题确实如此,但难以理解
[此贴子已经被作者于2015/8/25 16:11:10编辑过]

--  作者:大红袍
--  发布时间:2015/8/25 16:13:00
--  
 计算后,肯定超出了范围。全部换成整数。