実数値信号における量子化ノイズの標準偏差の推定

実信号の $p$ ビット精度への量子化は、標準偏差が $ϛ_{noise} = \frac{2^{- p}}{\sqrt{12}}$ [1,2] の正規分布ノイズを追加する線形システムとしてモデル化できます。

関数fixed.realQuantizationNoiseStandardDeviationを使用して、理論的な量子化ノイズの標準偏差を $p$ ビットの精度で計算します。

p = 14;
theoreticalQuantizationNoiseStandardDeviation = fixed.realQuantizationNoiseStandardDeviation(p);

戻り値は $ϛ_{noise} = \frac{2^{- p}}{\sqrt{12}}$ です。

$n$ 個のサンプルをもつ実信号を作成します。

rng('default');
n = 1e6;
x = rand(1,n);

信号を $p$ ビットの精度で量子化します。

wordLength = 16;
x_quantized = quantizenumeric(x,1,wordLength,p);

量子化した信号と元の信号の差分を求め、量子化ノイズを計算します。

quantizationNoise = x_quantized - x;

測定した量子化ノイズの標準偏差を計算します。

measuredQuantizationNoiseStandardDeviation = std(quantizationNoise)

measuredQuantizationNoiseStandardDeviation = 1.7607e-05

実際の量子化ノイズの標準偏差と理論的な量子化ノイズの標準偏差を比較し、 $n$ の値が大きい場合にこれらの標準偏差が近くなることを確認します。

theoreticalQuantizationNoiseStandardDeviation

theoreticalQuantizationNoiseStandardDeviation = 1.7619e-05

Bernard Widrow. "A Study of Rough Amplitude Quantization by Means of Nyquist Sampling Theory". In:IRE Transactions on Circuit Theory 3.4 (Dec. 1956), pp. 266–276.
Bernard Widrow and István Kollár. Quantization Noise – Roundoff Error in Digital Computation, Signal Processing, Control, and Communications. Cambridge, UK: Cambridge University Press, 2008.

参考