以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- 累计数值不准确 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=171374) |
||||
-- 作者:qwz405 -- 发布时间:2021/8/27 18:06:00 -- 累计数值不准确
老师,您好。 只有2位小数,累计值为4位小数,累计结束不准确。 这只是举个例子,碰到好几处这种情况,单精度数值统计就是有问题,和正确数值差那么一点点。 不知道是程序的问题,还是我的版本哪出问题了。 |
||||
-- 作者:chen37280600 -- 发布时间:2021/8/27 19:05:00 -- 单精度和双精度一律都是不准确的意思 你一律换成 高精度小数,立刻根治,就这么简单
|
||||
-- 作者:qwz405 -- 发布时间:2021/8/27 19:23:00 -- 谢谢,用双精度已解决问题,谢谢~ |
||||
-- 作者:有点蓝 -- 发布时间:2021/8/28 9:08:00 -- 看看:http://www.foxtable.com/webhelp/topics/1829.htm |