主题：高精度小数的有效数字

Decimal 高精度小数,有高达28位的有效数字,适用于要求使用大量有效的整数及小数位数并且没有舍入错误的财务计算。

 

Dim d As Decimal = 1231234567890.123456789012345678901234589
Dim d1 As Decimal = 0.123456789012345678901234589
output.show(d)
output.show(d1)

 

为何显示的有效数字只有15位？

不知道

Dim d As Decimal = 1231234567890.123456789012345678901234589@
Dim d1 As Decimal = 0.123456789012345678901234589@
output.show(d)
output.show(d1)

Dim value As Decimal

value = Math.PI

请问如何得到28位有效数字？

没办法，pi返回的就是一个double型

用@可以求出算式高精度结果，不知@表示什么？如：

 

Dim value1 As Decimal

Dim d1 As Integer = 3

Dim d2 As Integer = 5

value1 = (1@*d2/d1)

output.show(value1)

'得到:1.6666666666666666666666666667

 相当于一个转换函数 CDec

Dim d As Decimal = CDec("1")
Output.Show(d / 3)