Main Content

fixed.realQuantizationNoiseStandardDeviation

実数値信号における量子化ノイズの標準偏差の推定

R2021b 以降

説明

noiseStandardDeviation = fixed.realQuantizationNoiseStandardDeviation(precisionBits) は、量子化レベル q=2-precisionBits の実数値信号における量子化ノイズの標準偏差の推定を返します。ここで、precisionBits は必要な精度のビット数です。

すべて折りたたむ

実信号の p ビット精度への量子化は、標準偏差が ϛnoise=2-p12 [1,2] の正規分布ノイズを追加する線形システムとしてモデル化できます。

関数fixed.realQuantizationNoiseStandardDeviationを使用して、理論的な量子化ノイズの標準偏差を p ビットの精度で計算します。

p = 14;
theoreticalQuantizationNoiseStandardDeviation = fixed.realQuantizationNoiseStandardDeviation(p);

戻り値は ϛnoise=2-p12 です。

n 個のサンプルをもつ実信号を作成します。

rng('default');
n = 1e6;
x = rand(1,n);

信号を p ビットの精度で量子化します。

wordLength = 16;
x_quantized = quantizenumeric(x,1,wordLength,p);

量子化した信号と元の信号の差分を求め、量子化ノイズを計算します。

quantizationNoise = x_quantized - x;

測定した量子化ノイズの標準偏差を計算します。

measuredQuantizationNoiseStandardDeviation = std(quantizationNoise)
measuredQuantizationNoiseStandardDeviation = 1.7607e-05

実際の量子化ノイズの標準偏差と理論的な量子化ノイズの標準偏差を比較し、n の値が大きい場合にこれらの標準偏差が近くなることを確認します。

theoreticalQuantizationNoiseStandardDeviation
theoreticalQuantizationNoiseStandardDeviation = 1.7619e-05

参考文献

  1. Bernard Widrow. "A Study of Rough Amplitude Quantization by Means of Nyquist Sampling Theory". In:IRE Transactions on Circuit Theory 3.4 (Dec. 1956), pp. 266–276.

  2. Bernard Widrow and István Kollár. Quantization Noise – Roundoff Error in Digital Computation, Signal Processing, Control, and Communications. Cambridge, UK: Cambridge University Press, 2008.

入力引数

すべて折りたたむ

必要な精度のビット数。正の整数値のスカラーとして指定します。

データ型: double

出力引数

すべて折りたたむ

ノイズの標準偏差。スカラーとして返されます。

ヒント

fixed.realQuantizationNoiseStandardDeviation は次の関数で使用されます。

アルゴリズム

量子化レベル q=2-precisionBits [1][2] の実数値の誤差シーケンス e(k) の分散は次のとおりです。

σq2=1qq/2q/2e2de=q212=22precisionBits12.

実数の誤差シーケンス e(k) の標準偏差は次のとおりです。

σq=2precisionBits12.

参照

[1] Widrow, Bernard. "A Study of Rough Amplitude Quantization by Means of Nyquist Sampling Theory." IRE Transactions on Circuit Theory 3, no.4 (December 1956): 266-276.

[2] Widrow, Bernard, and Kollár, István. Quantization Noise – Roundoff Error in Digital Computation, Signal Processing, Control, and Communications. Cambridge, UK: Cambridge University Press, 2008.

バージョン履歴

R2021b で導入