以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  谁有算IEEE754标准浮点数做好的公式或者函数套用  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=169032)

--  作者:shyilin5
--  发布时间:2021/5/30 11:43:00
--  谁有算IEEE754标准浮点数做好的公式或者函数套用
谁有算IEEE754标准浮点数做好的公式或者函数套用,最好单精度浮点数和双精度浮点数都有,谢谢
[此贴子已经被作者于2021/5/30 11:47:31编辑过]

--  作者:有点蓝
--  发布时间:2021/5/30 20:39:00
--  
举例说明一下?
--  作者:shyilin3
--  发布时间:2021/5/30 21:48:00
--  
Dim st1 As String = "41A4C000" Dim st2 As String = DecToBin(HexToDec(st1)) Dim st4 As Single If st2.Length< 32 Then st4= (-1)^0*2^(BinToDec(st2.SubString(0,8))-127)*(1+HexToDec(st1.SubString(2,6))/2^23) Else st4= (-1)^1*2^(BinToDec(st2.SubString(1,8))-127)*(1+HexToDec(st1.SubString(2,6))/2^23) End If Output.Show(Round2(st4, 2)) 老师前面那个0要怎么处理呢?我这样行不?
--  作者:有点蓝
--  发布时间:2021/5/30 22:15:00
--  
哪个0?测试有什么问题?发帖请使用设计模式,不要使用代码模式发
[此贴子已经被作者于2021/5/30 22:15:14编辑过]

--  作者:shyilin3
--  发布时间:2021/5/30 22:15:00
--  
老师有空看一下
--  作者:shyilin3
--  发布时间:2021/5/30 22:18:00
--  
16转2进制如果第一位是0会省略了
--  作者:有点蓝
--  发布时间:2021/5/30 22:22:00
--  
省略了有什么问题?直接说这个代码要做什么吧,最后需要得到什么结果?