Foxtable(狐表)用户栏目专家坐堂 → 累计数值不准确


  共有5308人关注过本帖树形打印复制链接

主题:累计数值不准确

帅哥哟,离线,有人找我吗?
qwz405
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:二尾狐 帖子:526 积分:5101 威望:0 精华:0 注册:2015/4/15 15:25:00
累计数值不准确  发帖心情 Post By:2021/8/27 18:06:00 [显示全部帖子]

 下载信息  [文件大小:   下载次数: ]
图片点击可在新窗口打开查看点击浏览该文件:管理项目1.foxdb

老师,您好。
只有2位小数,累计值为4位小数,累计结束不准确。

图片点击可在新窗口打开查看此主题相关图片如下:20210827.jpg
图片点击可在新窗口打开查看

这只是举个例子,碰到好几处这种情况,单精度数值统计就是有问题,和正确数值差那么一点点。
不知道是程序的问题,还是我的版本哪出问题了。



 回到顶部
帅哥哟,离线,有人找我吗?
qwz405
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:二尾狐 帖子:526 积分:5101 威望:0 精华:0 注册:2015/4/15 15:25:00
  发帖心情 Post By:2021/8/27 19:23:00 [显示全部帖子]

谢谢,用双精度已解决问题,谢谢~
还有这种情况,明明只有2位小数,还能计算错误~!!
图片点击可在新窗口打开查看此主题相关图片如下:122.jpg
图片点击可在新窗口打开查看


 回到顶部