小数显示错误的问题 - 专家坐堂 - Foxtable(狐表) - 新一代数据库软件，完美融合Access、Foxpro、Excel、vb.net之优势，人人都能掌握的快速软件开发工具!

Foxtable(狐表) → 用户栏目 → 专家坐堂 → 小数显示错误的问题

共有2234人关注过本帖树形打印复制链接主题：小数显示错误的问题

happyft

小大 1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

加好友

发短信

等级：八尾狐帖子：1930 积分：17558 威望：0 精华：0 注册：2014/7/29 19:09:00

小数显示错误的问题 发帖心情

Post By：2016/2/19 12:01:00 [显示全部帖子]

表中有长度1，长度2，面积三列，都是float(全部设置为numeric数据类型18，8结果也是一样)

面积 = 长度1*长度2/1000000

比如长度1，长度2均为38mm,

但计算的结果都只显示0.001400, 正确应该是0.001444；为什么后面两个4会变为0.

是什么原因，谢谢！

HappyFt

小大 2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

加好友

发短信

等级：八尾狐帖子：1930 积分：17558 威望：0 精华：0 注册：2014/7/29 19:09:00

Post By：2016/3/6 13:09:00 [显示全部帖子]

下载信息 [文件大小：下载次数： ]
点击浏览该文件:计算小数问题.foxdb

真的是有问题啊，在第一二列输入38，都是双精度的，第三列应该是0.001444，但就只显示0.0014，为什么呢？谢谢！

HappyFt

小大 3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

加好友

发短信

等级：八尾狐帖子：1930 积分：17558 威望：0 精华：0 注册：2014/7/29 19:09:00

Post By：2016/3/6 15:51:00 [显示全部帖子]

谢谢！那请教一下我的表都是动态fill的sqltb啊，这个小数位数的列属性要怎么设呢?

HappyFt

小大 4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

加好友

发短信

等级：八尾狐帖子：1930 积分：17558 威望：0 精华：0 注册：2014/7/29 19:09:00

Post By：2016/3/6 17:15:00 [显示全部帖子]

这个没有用啊，早就设置了。就是找不到什么原因啦！

'加载表结构

Tables(e.Form.name & "_主表").Fill("se lect *,0 as RowNum from {" & Mtb & "} where [_Identify] < 0",Mydata,False) '通用

Tables(e.Form.name & "_主表").SetColVisibleWidth(Csx)

'设置表属性

Tables(e.Form.name & "_主表").Cols("图片").DataCol.ExtendType = ExtendTypeEnum.Images

Tables(e.Form.name & "_主表").cols("平方").DataCol.SetFormat("0.000000") '设置小数位数

Tables(e.Form.name & "_主表").Cols("唛头").AllowDirectType = True

Tables(e.Form.name & "_主表").Cols("唛头").AllowTypeAssistant = True '输入助手

Tables(e.Form.name & "_主表").Cols("颜色").AllowDirectType = True

HappyFt

小大 5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

加好友

发短信

等级：八尾狐帖子：1930 积分：17558 威望：0 精华：0 注册：2014/7/29 19:09:00

Post By：2016/3/6 21:45:00 [显示全部帖子]

唉，不知道反复的执行多少次了，就是不行啊，设置成6位小数，但最后面两位都是显示00啊。

此主题相关图片如下：小数问题.gif

下一主题 >> << 上一主题

主题：小数显示错误的问题