欢迎您:游客!请先
登录
或
注册
风格
恢复默认设置
|
展区
文件集浏览
图片集浏览
Flash浏览
音乐集浏览
电影集浏览
|
搜索
Foxtable(狐表)
→
用户栏目
→
专家坐堂
→ 数值相减出错,怎么解决
新的主题
投票帖
小字报
下一主题 >>
<< 上一主题
共有
3712
人关注过本帖
树形
打印
复制链接
主题:数值相减出错,怎么解决
superapplesupera
小
大
1楼
|
信息
|
搜索
|
邮箱
|
主页
|
UC
加好友
发短信
等级:婴狐
帖子:
1
积分:70
威望:0
精华:0
注册:
2020/3/21 10:48:00
数值相减出错,怎么解决
Post By:2020/3/21 10:52:00 [
显示全部帖子
]
表格里的列A(单精度),程序里定义的变量B(单精度)赋值为0.935
当A=0.935,B=0.935 A-B出来的结果是
-4.76837158647214E-09
当A=0.934,B=0.935 A-B出来的结果是-0.000999991893768315
、
谁知道这个是怎么回事? 怎么解决呀
下一主题 >>
<< 上一主题
RSS2.0
|
Xhtml无图版
|
Xslt无图版
Copyright © 2000 - 2018
foxtable
.com
Tel: 4000-810-820 粤ICP备11091905号
Powered By
Dvbbs
Version 8.3.0
页面执行时间 0.04297 秒, 5 次数据查询