Main Content

このページの翻訳は最新ではありません。ここをクリックして、英語の最新版を参照してください。

オーバーフローと桁落ちの検出

オーバーフローと桁落ちの原因をデバッグし、浮動小数点の動作と比較する

オーバーフロー、桁落ち、範囲または精度の損失の原因を特定し、トレースし、デバッグします。組み込み実装を理想的な浮動小数点の動作と比較します。

トピック

MATLAB

fipref を使用したデータ型オーバーライドの基本設定

fipref オブジェクトを使用したデータ型オーバーライド。

fipref を使用したアンダーフローとオーバーフローのログ作成

fipref オブジェクトを使用して fi オブジェクトのログ基本設定を行う例。

量子化誤差の計算

この例では、さまざまな丸め手法を使用する場合に、信号の量子化誤差の統計値を計算および比較する方法を説明します。

浮動小数点と固定小数点の結果の差の可視化

カスタムのプロット関数を使用して、生成された固定小数点コードの動作を元の浮動小数点の MATLAB コードの動作と比較します。

シミュレーション データ インスペクターによるプロット作成の有効化

記録された浮動小数点と固定小数点の入力データと出力データを比較検査します。

カスタムのプロット関数

固定小数点の変換中に数値的な差を可視化します。

オーバーフローの検出

アプリを使用してオーバーフローを検出します。

Simulink

固定小数点ツールを使用した数値的な動作の確認

固定小数点ツールを使用して浮動小数点データ型と固定小数点データ型を比較する方法を示す例。

Simulink モデルでのオーバーフローの処理

モデルにオーバーフローが含まれる場合に受信する警告メッセージを制御します。

正味勾配と正味バイアスの精度

正味勾配と正味バイアスの精度、桁落ち、アンダーフロー、およびオーバーフローの検出。

固定小数点定数の桁落ちの検出

以下の例では、固定小数点定数の桁落ちを検出する方法を示します。

スケーリングされた double を使用した桁落ちの回避

スケーリングされた double をもつモデル内でデータ型をオーバーライドすることで桁落ちを回避する方法。