Foxtable(狐表)用户栏目专家坐堂 → 关于数据误差


  共有2143人关注过本帖树形打印复制链接

主题:关于数据误差

帅哥哟,离线,有人找我吗?
shixu
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:婴狐 帖子:31 积分:417 威望:0 精华:0 注册:2016/2/16 16:20:00
关于数据误差  发帖心情 Post By:2016/4/19 9:43:00 [只看该作者]

我的表中的数据只进行了加减运算后,就出现了一些误差,这是什么原因。在不同精度数字变量间转换,是怎么约定的?

 回到顶部
帅哥哟,离线,有人找我吗?
大红袍
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:贵宾 帖子:39310 积分:196782 威望:0 精华:1 注册:2015/4/25 9:23:00
  发帖心情 Post By:2016/4/19 9:53:00 [只看该作者]

1、你可以把参与的所有的列,都设置成高精度小数;

 

2、不同精度的计算,丢失精度是肯定有的,你最后可以四舍五入,比如取几位小数。

[此贴子已经被作者于2016/4/19 9:52:53编辑过]

 回到顶部