以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- [求助]算术运算导致溢出 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=77618) |
-- 作者:wyanji -- 发布时间:2015/11/22 4:53:00 -- [求助]算术运算导致溢出
请老师帮忙看看,以上字段都是双精度,为啥简单的相加就出现这个提示?是因为列太多吗?有没有什么解决办法? |
-- 作者:大红袍 -- 发布时间:2015/11/22 14:25:00 -- 上面表达式的各列,都弄成双精度小数或者是高精度小数。 |
-- 作者:wyanji -- 发布时间:2015/11/22 19:02:00 -- 还得麻烦老师写清楚一下,我还比较菜,谢谢! |
-- 作者:大红袍 -- 发布时间:2015/11/22 20:46:00 -- 以下是引用wyanji在2015/11/22 19:02:00的发言:
还得麻烦老师写清楚一下,我还比较菜,谢谢!
设置列类型
http://www.foxtable.com/help/topics/0036.htm
|
-- 作者:wyanji -- 发布时间:2015/11/22 22:02:00 --
您说的这个,我早就已经都弄成双精度了,还是出这个错。 |
-- 作者:大红袍 -- 发布时间:2015/11/22 22:07:00 -- 是不是数值过大?改成高精度看看。 |