Foxtable(狐表) → 用户栏目 → 专家坐堂 → 关于表达式列数据计算产生差异的问题


  共有2701人关注过本帖树形打印复制链接

主题：关于表达式列数据计算产生差异的问题
帅哥哟，离线，有人找我吗？
ndxfke
 小大  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：三尾狐 帖子：792 积分：5649 威望：0 精华：0 注册：2013/12/9 20:12:00 		关于表达式列数据计算产生差异的问题  发帖心情 Post By：2015/6/2 16:06:00 [只看该作者]

数据表中有分别有：[应收金额]、[收款金额] 两个单精度列，一个[未收款] 表达列：IsNull([应收金额],0) - IsNull([收款金额],0)

编码 单据编号 摘要 收款金额 应收金额
SK-201506-001 DD-201412-002 收'中信新城'款 89827.7 89827.7


问题：表达式列计算结果 0.01 ，为何？应该如何处理，让它不会出现这种不应该产生的差异呢？
 回到顶部
帅哥哟，离线，有人找我吗？
Bin
 小大  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：贵宾 帖子：35433 积分：178524 威望：0 精华：3 注册：2013/3/30 16:36:00 		  发帖心情 Post By：2015/6/2 16:06:00 [只看该作者]

最方便的方法,用高精度小数.

 回到顶部
帅哥哟，离线，有人找我吗？
ndxfke
 小大  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：三尾狐 帖子：792 积分：5649 威望：0 精华：0 注册：2013/12/9 20:12:00 		  发帖心情 Post By：2015/6/2 16:08:00 [只看该作者]

tks，bin

很久不见，

能帮我普及下为何要这样改呢？
 回到顶部
帅哥哟，离线，有人找我吗？
Bin
 小大  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：贵宾 帖子：35433 积分：178524 威望：0 精华：3 注册：2013/3/30 16:36:00 		  发帖心情 Post By：2015/6/2 16:09:00 [只看该作者]

双精度小数会有误差的,      高精度小数不会,所以叫做"高精度小数" 但是容量较少,性能较低.

 回到顶部
帅哥哟，离线，有人找我吗？
大红袍
 小大  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：贵宾 帖子：39310 积分：196782 威望：0 精华：1 注册：2015/4/25 9:23:00 		  发帖心情 Post By：2015/6/2 16:10:00 [只看该作者]

 或者你设置一下表达式列的格式

 

http://www.foxtable.com/help/topics/0050.htm

 
 回到顶部
RSS2.0 | Xhtml无图版 | Xslt无图版 Copyright © 2000 - 2018 foxtable.com Tel: 4000-810-820 粤ICP备11091905号
   Powered By Dvbbs Version 8.3.0
页面执行时间 0.05469 秒, 4 次数据查询