以文本方式查看主题 - Foxtable(狐表) (http://foxtable.net/bbs/index.asp) -- 专家坐堂 (http://foxtable.net/bbs/list.asp?boardid=2) ---- 谁有算IEEE754标准浮点数做好的公式或者函数套用 (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=169032) |
-- 作者:shyilin5 -- 发布时间:2021/5/30 11:43:00 -- 谁有算IEEE754标准浮点数做好的公式或者函数套用 谁有算IEEE754标准浮点数做好的公式或者函数套用,最好单精度浮点数和双精度浮点数都有,谢谢 [此贴子已经被作者于2021/5/30 11:47:31编辑过]
|
-- 作者:有点蓝 -- 发布时间:2021/5/30 20:39:00 -- 举例说明一下? |
-- 作者:shyilin3 -- 发布时间:2021/5/30 21:48:00 -- Dim st1 As String = "41A4C000" Dim st2 As String = DecToBin(HexToDec(st1)) Dim st4 As Single If st2.Length< 32 Then st4= (-1)^0*2^(BinToDec(st2.SubString(0,8))-127)*(1+HexToDec(st1.SubString(2,6))/2^23) Else st4= (-1)^1*2^(BinToDec(st2.SubString(1,8))-127)*(1+HexToDec(st1.SubString(2,6))/2^23) End If Output.Show(Round2(st4, 2)) 老师前面那个0要怎么处理呢?我这样行不? |
-- 作者:有点蓝 -- 发布时间:2021/5/30 22:15:00 -- 哪个0?测试有什么问题?发帖请使用设计模式,不要使用代码模式发 [此贴子已经被作者于2021/5/30 22:15:14编辑过]
|
-- 作者:shyilin3 -- 发布时间:2021/5/30 22:15:00 -- 老师有空看一下 |
-- 作者:shyilin3 -- 发布时间:2021/5/30 22:18:00 -- 16转2进制如果第一位是0会省略了 |
-- 作者:有点蓝 -- 发布时间:2021/5/30 22:22:00 -- 省略了有什么问题?直接说这个代码要做什么吧,最后需要得到什么结果? |