量子化

固定小数点データ型の精度、範囲、スケーリング

浮動小数点演算を使用する動的システムを開発する場合、数値的な制限について心配する必要は通常ありません。浮動小数点データ型は高い精度と範囲を備えているためです。一方、固定小数点算術を使用する場合は、動的システムの開発時に以下の要素について考慮しなければなりません。

  • 量子化

    固定小数点値は丸められます。したがって、プラントへの出力信号と管理システムへの入力信号は、理想的な離散時間信号と同じ特性をもちません。

  • オーバーフロー

    十分に大きい 2 つの負または正の値を追加すると、表現に収まらない結果が生じる場合があります。

  • 計算ノイズ

    実現内での個々の項の丸めによって発生した累積誤差により、ノイズが生じます。

  • リミット サイクル

    理想的なシステムでは、安定した伝達関数 (デジタル フィルター) の出力は、定数入力の一部の定数に近づきます。量子化では、定常状態において 2 つの値間で出力が振動するときにリミット サイクルが発生します。

トピック

スケーリング、範囲、および精度

  • スケーリング
    固定小数点数のダイナミック レンジは、同等のワード サイズの浮動小数点をはるかに下回ります。オーバーフロー状態を防ぎ、量子化誤差を最低限に抑えるには、固定小数点数をスケーリングしなければなりません。
  • 傾きとバイアスの計算
    傾きとバイアスのスケーリングの説明とその計算方法。
  • 正味傾きと正味バイアスの精度
    正味傾きと正味バイアスの精度、桁落ち、アンダーフロー、およびオーバーフローの検出。
  • 固定小数点数の範囲の決定
    デジタル システムでは固定小数点変数を有限数のビットで表現するため、範囲が制限されます。
  • 算術とスケーリングの推奨事項
    固定小数点算術の制限に基づく固定小数点設計のスケーリング。
  • 精度の最大化
    精度を最大化するには、傾きをできるだけ小さくする一方で、妥当な大きさの範囲を確保します。
  • 固定小数点定数の桁落ちの検出
    以下の例では、固定小数点定数の桁落ちを検出する方法を示します。

量子化

  • 算術演算
    固定小数点演算を実行するときに最良の結果が得られるようにデータ型とスケーリングを選択する。
  • 丸めモード
    Fixed-Point Designer™ で使用できるさまざまな丸めモードについて説明する。
  • Choose a Rounding Mode
    What to consider when choosing a rounding mode.

オーバーフロー

注目の例

量子化誤差の計算

量子化誤差の計算

この例では、さまざまな丸め手法を使用する場合に、信号の量子化誤差の統計値を計算および比較する方法を説明します。