建议尽量少用单精度、双精度数据类型的原因
时 间:2011-04-30 00:29:17
作 者:红尘如烟 ID:10768 城市:成都
摘 要:建议尽量少用单精度、双精度数据类型的原因
正 文:
很多人都知道在数据库中如果需要进行精确计算的字段,尽量不使用单精度和双精度这两种数据类型。因为它们属于浮点数,而浮点数采用二进制保存小数,并且进行浮点运算,这就意味着计算的结果准确性会比较差。如果一定需要小数,则可以使用货币(Currency)型和小数(Decimal)型,这两种是量化的整数数据类型,具有高度的正确性。
通过如下代码可以非常清楚的测试出浮点数的准确度不够:
Sub 数据类型对比测试()
Dim sngNum As Single
Dim dblNum As Double
Dim varNum As Variant '小数没有单独的类型,它属于Variant的子类型
Dim curNum As Currency
Dim lngI As Long
For lngI = 1 To 1000
sngNum = sngNum + 0.1
dblNum = dblNum + 0.1
varNum = varNum + CDec(0.1)
curNum = curNum + 0.1
Next
Debug.Print "单精度:" & sngNum
Debug.Print "双精度:" & dblNum
Debug.Print "小数: " & varNum
Debug.Print "货币: " & curNum
End Sub
根据我们的想象,最后的结果应该是1才对,而实际返回结果为:
单精度:99.99905
双精度:99.9999999999986
小数: 100
货币: 100
附 图:
Access软件网QQ交流群 (群号:54525238) Access源码网店
常见问答:
技术分类:
源码示例
- 【源码QQ群号19834647...(12.17)
- 【Access选项卡示例】Ac...(09.09)
- 【Access源码示例】按输入...(09.02)
- 【Access日期区间段查询】...(08.29)
- 【Access日期区间段查询】...(08.27)
- Access怎样才能实现日期时...(08.21)
- 【Access定时打开查询】A...(08.19)
- Access生成固定数量的记录...(08.13)
- Access怎样才能实现日期时...(08.12)
- Access利用导航窗体控件对...(08.03)
学习心得
最新文章
- Access表中的字段名、字段标题...(09.19)
- Access快速开发平台--更改“...(09.18)
- 【中秋及国庆优惠】Access培训...(09.15)
- Access如何将日期型的数值转换...(09.14)
- 英文输入法输入数据中存在单引号引起...(09.11)
- 【Access选项卡示例】Acce...(09.09)
- 让Access光标停留在指定的控件...(09.07)
- 关于Access查询条件里使用通配...(09.06)
- Access报表偷懒制作法--Ac...(09.05)
- Access快速开发平台--窗体数...(09.04)