表达式计算的精度测试 - 专家坐堂 - Foxtable(狐表) - 新一代数据库软件，完美融合Access、Foxpro、Excel、vb.net之优势，人人都能掌握的快速软件开发工具!

Foxtable(狐表) → 用户栏目 → 专家坐堂 → 表达式计算的精度测试

共有2797人关注过本帖树形打印复制链接主题：表达式计算的精度测试

瞩望星空

小大 1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：二尾狐帖子：531 积分：4727 威望：0 精华：0 注册：2013/4/20 20:08:00

表达式计算的精度测试 发帖心情

Post By：2014/7/24 13:01:00 [只看该作者]

一个简单的表达式计算：

单价*数量=金额

测试数量：

单价=3.2

数量=5700001

如果全部为单精度数，金额为：18240000

如果金额设为双精度数，金额为：18240004

如果数量、金额设为双精度数，金额为：18240003.4728

只有把三个数据全部设为双精度数，金额为：18240003.2，这样才对。

这样又得去改项目文件了，原来“单价”使用单精度类型，看来不准确啊。

请看四个表的测试

下载信息 [文件大小：下载次数： ]
点击浏览该文件:计算精度测试.table

[此贴子已经被作者于2014-7-24 15:06:39编辑过]

有点甜

小大 2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：版主帖子：85326 积分：427815 威望：0 精华：5 注册：2012/10/18 22:13:00

Post By：2014/7/24 14:15:00 [只看该作者]

嗯嗯，木有办法，取决于计算机精度问题。小数都是要丢失精度的。除非你用高精度小数。

主题：表达式计算的精度测试