Main Content

このページの翻訳は最新ではありません。ここをクリックして、英語の最新版を参照してください。

量子化

固定小数点データ型の精度、範囲、スケーリング

浮動小数点演算を使用する動的システムを開発する場合、数値的な制限について心配する必要は通常ありません。浮動小数点データ型は高い精度と範囲を備えているためです。一方、固定小数点算術を使用する場合は、動的システムの開発時に以下の要素について考慮しなければなりません。

  • 量子化

    固定小数点値は丸められます。したがって、プラントへの出力信号と管理システムへの入力信号は、理想的な離散時間信号と同じ特性をもちません。

  • オーバーフロー

    十分に大きい 2 つの負または正の値を追加すると、表現に収まらない結果が生じる場合があります。これは、管理システムに悪影響を及ぼします。

  • 計算ノイズ

    実現内での個々の項の丸めによって発生した累積誤差により、ノイズが管理信号にもたらされます。

  • リミット サイクル

    理想的なシステムでは、安定した伝達関数 (デジタル フィルター) の出力は、定数入力の一部の定数に近づきます。量子化では、定常状態において 2 つの値間で出力が振動するときにリミット サイクルが発生します。

  • 精度
    精度、丸めとパディングの影響に関する制限
  • 範囲
    範囲に関する制限、アンダーフローとオーバーフロー、飽和とラッピング
  • スケーリング
    固定小数点演算に対するスケーリングの効果、2 進小数点のみのスケーリング、勾配とバイアスのスケーリング、速度向上のためのスケーリング、精度最大化のためのスケーリング

注目の例