Main Content

データ型の調査

固定小数点データ型と浮動小数点データ型の指定と使用、シミュレーション データと統計の収集と可視化

設計内で、固定小数点と浮動小数点のデータ型を指定して使用します。固定小数点型では、アプリケーション固有の語長、2 進小数点スケーリング、任意の勾配およびバイアス スケーリングを指定して、丸めモードやオーバーフロー モードなどの詳細を制御できます。浮動小数点シミュレーションは、flush-to-zero など、非正規化浮動小数点数に対するターゲット ハードウェアの動作をエミュレートするために使用します。半精度など、精度を落とした浮動小数点データ型をシミュレートすることもできます。

モデル全体の自動インストルメンテーションによってシミュレーション データと統計を収集することにより、浮動小数点と固定小数点の動作を比較し、数値的動作のトレードオフを解析します。範囲データを収集し、可視化を使用して設計を最適化し、効率的なハードウェア リソースの利用を実現します。

カテゴリ