以文本方式查看主题
- Foxtable(狐表) (http://foxtable.net/bbs/index.asp)
-- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2)
---- 单精度计算错误 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=102089)
|
-- 作者:sdkjxmw
-- 发布时间:2017/6/13 11:09:00
-- 单精度计算错误
此主题相关图片如下:question1.jpg
请教专家:单精度计算结果,出错了。什么原因?图片见附件
|
-- 作者:有点色
-- 发布时间:2017/6/13 11:10:00
--
第一列、第二列、改成双精度或高精度小数。
|
-- 作者:sdkjxmw
-- 发布时间:2017/6/13 11:12:00
--
非常感谢
|