Foxtable(狐表) → 用户栏目 → 专家坐堂 → 小数显示错误的问题


  共有2232人关注过本帖树形打印复制链接

主题：小数显示错误的问题
帅哥哟，离线，有人找我吗？
happyft
 小大  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：八尾狐 帖子：1930 积分：17558 威望：0 精华：0 注册：2014/7/29 19:09:00 		小数显示错误的问题  发帖心情 Post By：2016/2/19 12:01:00 [只看该作者]

表中有长度1，长度2，面积三列，都是float(全部设置为numeric数据类型18，8结果也是一样)
面积 = 长度1*长度2/1000000 
比如长度1，长度2均为38mm,
但计算的结果都只显示0.001400, 正确应该是0.001444；为什么后面两个4会变为0.

是什么原因，谢谢！
 回到顶部
帅哥哟，离线，有人找我吗？
大红袍
 小大  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：贵宾 帖子：39310 积分：196782 威望：0 精华：1 注册：2015/4/25 9:23:00 		  发帖心情 Post By：2016/2/19 12:13:00 [只看该作者]

 直接在foxtable里面设置成双精度或者高精度。

 

 不行，做例子上来测试。
 回到顶部
帅哥哟，离线，有人找我吗？
HappyFt
 小大  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：八尾狐 帖子：1930 积分：17558 威望：0 精华：0 注册：2014/7/29 19:09:00 		  发帖心情 Post By：2016/3/6 13:09:00 [只看该作者]

 下载信息  [文件大小：   下载次数： ]
图片点击可在新窗口打开查看点击浏览该文件:计算小数问题.foxdb

真的是有问题啊，在第一二列输入38，都是双精度的，第三列应该是0.001444，但就只显示0.0014，为什么呢？谢谢！
 回到顶部
帅哥哟，离线，有人找我吗？
fjlclxj
 小大  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：小狐 帖子：321 积分：2468 威望：0 精华：2 注册：2013/1/16 19:33:00 		  发帖心情 Post By：2016/3/6 13:37:00 [只看该作者]

针对提供的文件，列属性设置最大小数位数为6，计算显示正常

 回到顶部
帅哥哟，离线，有人找我吗？
大红袍
 小大  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：贵宾 帖子：39310 积分：196782 威望：0 精华：1 注册：2015/4/25 9:23:00 		  发帖心情 Post By：2016/3/6 13:57:00 [只看该作者]

看4楼。

 回到顶部
帅哥哟，离线，有人找我吗？
HappyFt
 小大  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：八尾狐 帖子：1930 积分：17558 威望：0 精华：0 注册：2014/7/29 19:09:00 		  发帖心情 Post By：2016/3/6 15:51:00 [只看该作者]

谢谢！那请教一下我的表都是动态fill的sqltb啊，这个小数位数的列属性要怎么设呢?

 回到顶部
帅哥哟，离线，有人找我吗？
fjlclxj
 小大  7楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：小狐 帖子：321 积分：2468 威望：0 精华：2 注册：2013/1/16 19:33:00 		  发帖心情 Post By：2016/3/6 16:16:00 [只看该作者]

SetFormat

设置列的显示格式。

示例

折扣列显示两位小数：

DataTables("订单").DataCols("折扣").SetFormat("0.00")

 回到顶部
帅哥哟，离线，有人找我吗？
HappyFt
 小大  8楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：八尾狐 帖子：1930 积分：17558 威望：0 精华：0 注册：2014/7/29 19:09:00 		  发帖心情 Post By：2016/3/6 17:15:00 [只看该作者]

这个没有用啊，早就设置了。就是找不到什么原因啦！

'加载表结构
Tables(e.Form.name & "_主表").Fill("se lect *,0 as RowNum from {" & Mtb & "} where [_Identify] < 0",Mydata,False) '通用
Tables(e.Form.name & "_主表").SetColVisibleWidth(Csx)

'设置表属性
Tables(e.Form.name & "_主表").Cols("图片").DataCol.ExtendType = ExtendTypeEnum.Images
Tables(e.Form.name & "_主表").cols("平方").DataCol.SetFormat("0.000000") '设置小数位数
Tables(e.Form.name & "_主表").Cols("唛头").AllowDirectType = True
Tables(e.Form.name & "_主表").Cols("唛头").AllowTypeAssistant = True '输入助手
Tables(e.Form.name & "_主表").Cols("颜色").AllowDirectType = True
 回到顶部
帅哥哟，离线，有人找我吗？
fjlclxj
 小大  9楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：小狐 帖子：321 积分：2468 威望：0 精华：2 注册：2013/1/16 19:33:00 		  发帖心情 Post By：2016/3/6 18:36:00 [只看该作者]

有效，你把数据加载一部分进来瞧瞧效果

 回到顶部
帅哥哟，离线，有人找我吗？
大红袍
 小大  10楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级：贵宾 帖子：39310 积分：196782 威望：0 精华：1 注册：2015/4/25 9:23:00 		  发帖心情 Post By：2016/3/6 21:14:00 [只看该作者]

例子没问题啊，设置以后，要重新计算一次啊。
 回到顶部
总数 12 1 2 下一页
RSS2.0 | Xhtml无图版 | Xslt无图版 Copyright © 2000 - 2018 foxtable.com Tel: 4000-810-820 粤ICP备11091905号
   Powered By Dvbbs Version 8.3.0
页面执行时间 0.04688 秒, 5 次数据查询