Main Content

このページの翻訳は最新ではありません。ここをクリックして、英語の最新版を参照してください。

スケーリング

固定小数点演算に対するスケーリングの効果、2 進小数点のみのスケーリング、勾配とバイアスのスケーリング、速度向上のためのスケーリング、精度最大化のためのスケーリング

固定小数点数の動的範囲は、同等のワード サイズの浮動小数点をはるかに下回ります。オーバーフロー状態を防ぎ、量子化誤差を最低限に抑えるには、固定小数点数をスケーリングしなければなりません。

Fixed-Point Designer™ ソフトウェアでは、2 進小数点でスケーリングが定義される固定小数点データ型を選択するか、ニーズに合った任意の線形スケーリングを選択することができます。

トピック

  • スケーリング

    固定小数点数の動的範囲は、同等のワード サイズの浮動小数点をはるかに下回ります。オーバーフロー状態を防ぎ、量子化誤差を最低限に抑えるには、固定小数点数をスケーリングしなければなりません。

  • 勾配とバイアスの計算

    勾配とバイアスのスケーリングの説明とその計算方法。

  • 算術とスケーリングの推奨事項

    固定小数点算術の制限に基づく固定小数点設計のスケーリング。