Main Content

quantize

fixed.Quantizer オブジェクトを使用した fi の値の量子化

quantize および fixed.Quantizer は推奨されません。代わりに castzerosoneseye、または subsasgn を使用してください。詳細については、互換性についての考慮事項を参照してください。

説明

y = quantize(q,x) は、fixed.Quantizer オブジェクト q を使用して x を量子化します。x には、ブール値以外の任意の固定小数点 fi 数を指定できます。

  • x がスケーリングされた double の場合、出力 y のデータは入力 x のデータと同じになります。y の固定小数点設定のみが変わります。

  • x が double または single の場合、y = x です。この機能により、量子化器が存在する場合、浮動小数点データ型と固定小数点 fi データ型の両方で同一のコードを共有できます。

すべて折りたたむ

fixed.Quantizer を使用して、2 つの固定小数点数の加算結果によって生じた語長を短くします。

q = fixed.Quantizer
x1 = fi(0.1,1,16,15);
x2 = fi(0.8,1,16,15);
y  = quantize(q,x1+x2)
q = 

  fixed.Quantizer with properties:

                   Signed: 1
               WordLength: 16
    SlopeAdjustmentFactor: 1
            FixedExponent: -15
                     Bias: 0
               Signedness: 'Signed'
                    Slope: 3.0518e-05
           FractionLength: 15
           RoundingMethod: 'Floor'
           OverflowAction: 'Wrap'


y = 

    0.9000

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 16
        FractionLength: 15

fixed.Quantizer オブジェクトを使用して、2 進小数点でスケーリングされた固定小数点 fi を勾配とバイアスでスケーリングされた固定小数点 fi に変更します。

x = fi(pi,1,16,13)
q = fixed.Quantizer(numerictype(1,7,1.6,0.2),'Round','Saturate')
y = quantize(q,x)
x = 

    3.1416

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 16
        FractionLength: 13

q = 

  fixed.Quantizer with properties:

                   Signed: 1
               WordLength: 7
    SlopeAdjustmentFactor: 1.6000
            FixedExponent: 0
                     Bias: 0.2000
               Signedness: 'Signed'
                    Slope: 1.6000
           FractionLength: 0
           RoundingMethod: 'Round'
           OverflowAction: 'Saturate'


y = 

    3.4000

          DataTypeMode: Fixed-point: slope and bias scaling
            Signedness: Signed
            WordLength: 7
                 Slope: 1.6
                  Bias: 0.2

入力引数

すべて折りたたむ

量子化に使用するデータ型プロパティ。fixed.Quantizer オブジェクトとして指定します。

量子化するデータ。fi オブジェクトとして指定します。

データ型: fi

バージョン履歴

R2011b で導入

すべて展開する