Foxtable(狐表)用户栏目专家坐堂 → 累计数值不准确


  共有5313人关注过本帖树形打印复制链接

主题:累计数值不准确

帅哥哟,离线,有人找我吗?
qwz405
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:二尾狐 帖子:526 积分:5101 威望:0 精华:0 注册:2015/4/15 15:25:00
累计数值不准确  发帖心情 Post By:2021/8/27 18:06:00 [只看该作者]

 下载信息  [文件大小:   下载次数: ]
图片点击可在新窗口打开查看点击浏览该文件:管理项目1.foxdb

老师,您好。
只有2位小数,累计值为4位小数,累计结束不准确。

图片点击可在新窗口打开查看此主题相关图片如下:20210827.jpg
图片点击可在新窗口打开查看

这只是举个例子,碰到好几处这种情况,单精度数值统计就是有问题,和正确数值差那么一点点。
不知道是程序的问题,还是我的版本哪出问题了。



 回到顶部
帅哥哟,离线,有人找我吗?
chen37280600
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:六尾狐 帖子:1279 积分:7959 威望:0 精华:4 注册:2017/12/31 14:53:00
  发帖心情 Post By:2021/8/27 19:05:00 [只看该作者]

单精度和双精度一律都是不准确的意思
你一律换成 高精度小数,立刻根治,就这么简单

 回到顶部
帅哥哟,离线,有人找我吗?
qwz405
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:二尾狐 帖子:526 积分:5101 威望:0 精华:0 注册:2015/4/15 15:25:00
  发帖心情 Post By:2021/8/27 19:23:00 [只看该作者]

谢谢,用双精度已解决问题,谢谢~
还有这种情况,明明只有2位小数,还能计算错误~!!
图片点击可在新窗口打开查看此主题相关图片如下:122.jpg
图片点击可在新窗口打开查看


 回到顶部
帅哥,在线噢!
有点蓝
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:111393 积分:567029 威望:0 精华:9 注册:2015/6/24 9:21:00
  发帖心情 Post By:2021/8/28 9:08:00 [只看该作者]


 回到顶部