以文本方式查看主题

-  Foxtable(狐表)  (http://foxtable.net/bbs/index.asp)
--  专家坐堂  (http://foxtable.net/bbs/list.asp?boardid=2)
----  就是如何像excel中那样按所显示的精度计算  (http://foxtable.net/bbs/dispbbs.asp?boardid=2&id=145562)

--  作者:paniclp
--  发布时间:2020/1/30 16:04:00
--  就是如何像excel中那样按所显示的精度计算
遇到一个问题
这个功能就是如何像excel中那样按所显示的精度计算


所有数据使用单精度,2位小数显示
实际数据是3位  比如3.123, 2.124 那么显示的就是3.12和2.12
求和结果应该是按照显示的计算,应该是5.24
而实际他会按照四舍五入计算出5.25的结果。

此主题相关图片如下:data.png
按此在新窗口浏览图片


--  作者:有点蓝
--  发布时间:2020/1/30 16:26:00
--  
默认都是按照实际值计算,这才是合理的。

如果要改
方法1、存储3.12, 2.12这种数据,不要存储3.123, 2.124这种
2、先四舍五入再计算,比如表达式:http://www.foxtable.com/webhelp/topics/0108.htm

Convert([A] * 100, \'System.Int64\') / 100 + Convert([B] * 100, \'System.Int64\') / 100


--  作者:paniclp
--  发布时间:2020/1/30 17:57:00
--  
我说的这种情况,实际上是可能发生的。手动四舍五入有点麻烦
--  作者:有点蓝
--  发布时间:2020/1/30 20:17:00
--  
没有其他办法