| 以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- 关于数据误差 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=83882) |
| -- 作者：shixu -- 发布时间：2016/4/19 9:43:00 -- 关于数据误差 我的表中的数据只进行了加减运算后，就出现了一些误差，这是什么原因。在不同精度数字变量间转换，是怎么约定的？ |
| -- 作者：大红袍 -- 发布时间：2016/4/19 9:53:00 -- 1、你可以把参与的所有的列，都设置成高精度小数；
2、不同精度的计算，丢失精度是肯定有的，你最后可以四舍五入，比如取几位小数。 [此贴子已经被作者于2016/4/19 9:52:53编辑过]
|