文档

num2fixpt

将数字转换为可由指定的定点数据类型表示的最近值

语法

outValue = num2fixpt(OrigValue, FixPtDataType, FixPtScaling, RndMeth, DoSatur)

描述

num2fixpt(OrigValue, FixPtDataType, FixPtScaling, RndMeth, DoSatur)返回转换的结果OrigValue到可由定点数据类型表示的最接近的值FixPtDataType.这两个OrigValue有价值属于数据类型.如下面的示例所示,您可以使用num2fixpt调查将数字转换为定点数据类型可能导致的量化错误。的论点num2fixpt包括:

OrigValue

要转换为定点表示的值。必须使用数据类型。

FixPtDataType

用于转换的定点数据类型OrigValue

FixPtScaling

缩放输出的坡度或[坡度偏差]格式。如果FixPtDataType方法指定广义定点数据类型sfixufix命令,FixPtScaling将被忽略。

RndMeth

如果定点数据类型缺乏要表示的精度,则使用舍入技术OrigValue.如果FixPtDataType类指定浮点数据类型浮动命令,RndMeth将被忽略。有效值是最近的天花板,或地板上(默认)。

DoSatur

指示输出是否应饱和到底流或溢出时的最小或最大可表示值。如果FixPtDataType类指定浮点数据类型浮动命令,DoSatur将被忽略。有效值是(默认)。

例子

假设您希望研究将实际值9.875表示为带符号的8位定点数所带来的量化效果。命令

Num2fixpt (9.875, sfix(8), 2^-1) ans = 950000000000000

表示斜率2 ^ 1结果量化误差为0.375。命令

Num2fixpt (9.875, sfix(8), 2^-2) ans = 9.75000000000000

证明了斜率2 ^ 2将量化误差减小到0.125。斜率为2 ^ 3,如命令中使用的

Num2fixpt (9.875, sfix(8), 2^-3) ans = 9.87500000000000

完全消除量化误差。

R2006a之前介绍

这个话题有帮助吗?