以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  应该整除的,但的软件出小数,是怎么回事?  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=114326)

--  作者:xxfoxtable
--  发布时间:2018/2/3 12:42:00
--  应该整除的,但的软件出小数,是怎么回事?
应该整除的,但咱们的软件出小数,比如12,结果就是11.999999999
--  作者:有点蓝
--  发布时间:2018/2/3 14:14:00
--  
改为高精度类型
--  作者:xxfoxtable
--  发布时间:2018/2/3 20:26:00
--  

图片点击可在新窗口打开查看此主题相关图片如下:1.png
图片点击可在新窗口打开查看
图片点击可在新窗口打开查看此主题相关图片如下:2.png
图片点击可在新窗口打开查看
不行,还那样,真是奇怪了
--  作者:有点甜
--  发布时间:2018/2/4 19:20:00
--  

你做什么运算得到此结果?

 

做个例子发上来测试。 


--  作者:xxfoxtable
--  发布时间:2018/2/4 22:23:00
--  
 下载信息  [文件大小:   下载次数: ]
图片点击可在新窗口打开查看点击浏览该文件:管理项目4.rar
  t1输入0.5正常,输入0.6回车后就不对了

--  作者:有点甜
--  发布时间:2018/2/4 22:52:00
--  

代码改成

 

t3.text=val(t1.text)/dr("换算率")