num2fixpt
将数字转换为可由指定的定点数据类型表示的最近值
语法
outValue = num2fixpt(OrigValue, FixPtDataType, FixPtScaling, RndMeth, DoSatur)
描述
num2fixpt(OrigValue, FixPtDataType, FixPtScaling, RndMeth, DoSatur)
返回转换的结果OrigValue
到可由定点数据类型表示的最接近的值FixPtDataType
.这两个OrigValue
和有价值
属于数据类型双
.如下面的示例所示,您可以使用num2fixpt
调查将数字转换为定点数据类型可能导致的量化错误。的论点num2fixpt
包括:
|
要转换为定点表示的值。必须使用 |
|
用于转换的定点数据类型 |
|
缩放输出的坡度或[坡度偏差]格式。如果 |
|
如果定点数据类型缺乏要表示的精度,则使用舍入技术 |
|
指示输出是否应饱和到底流或溢出时的最小或最大可表示值。如果 |
例子
假设您希望研究将实际值9.875表示为带符号的8位定点数所带来的量化效果。命令
Num2fixpt (9.875, sfix(8), 2^-1) ans = 950000000000000
表示斜率2 ^ 1
结果量化误差为0.375。命令
Num2fixpt (9.875, sfix(8), 2^-2) ans = 9.75000000000000
证明了斜率2 ^ 2
将量化误差减小到0.125。斜率为2 ^ 3
,如命令中使用的
Num2fixpt (9.875, sfix(8), 2^-3) ans = 9.87500000000000
完全消除量化误差。
R2006a之前介绍
这个话题有帮助吗?