以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  单精度计算错误  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=102089)

--  作者:sdkjxmw
--  发布时间:2017/6/13 11:09:00
--  单精度计算错误

图片点击可在新窗口打开查看此主题相关图片如下:question1.jpg
图片点击可在新窗口打开查看
请教专家:单精度计算结果,出错了。什么原因?图片见附件
--  作者:有点色
--  发布时间:2017/6/13 11:10:00
--  
  第一列、第二列、改成双精度或高精度小数。
--  作者:sdkjxmw
--  发布时间:2017/6/13 11:12:00
--  
非常感谢