ヘルプセンターヘルプセンター

オーバーフローと桁落ちの検出

オーバーフローと桁落ちの原因をデバッグし、浮動小数点の動作と比較する

オーバーフロー、桁落ち、範囲または精度の損失の原因を特定し、トレースし、デバッグします。組み込み実装を理想的な浮動小数点の動作と比較します。

関数

`fixed.unifiedErrorCalculator.absoluteError`	Absolute error of two numeric inputs (R2023b 以降)
`fixed.unifiedErrorCalculator.bitsOfError`	Bits of error of two numeric inputs (R2023b 以降)
`fixed.unifiedErrorCalculator.relativeAbsoluteError`	Relative absolute error of two numeric inputs (R2023b 以降)

トピック

MATLAB

fipref を使用したデータ型オーバーライドの基本設定
fipref オブジェクトを使用したデータ型オーバーライド。
fipref を使用したアンダーフローとオーバーフローのログ作成
fipref オブジェクトを使用して fi オブジェクトのログ基本設定を行う例。
浮動小数点と固定小数点の結果の差の可視化
カスタムのプロット関数を使用して、生成された固定小数点コードの動作を元の浮動小数点の MATLAB^® コードの動作と比較します。
シミュレーションデータインスペクターによるプロット作成の有効化
記録された浮動小数点と固定小数点の入力データと出力データを比較検査します。
カスタムのプロット関数
固定小数点の変換中に数値的な差を可視化します。
オーバーフローの検出
アプリを使用してオーバーフローを検出します。

Simulink

固定小数点ツールを使用した数値的な動作の確認
固定小数点ツールを使用して浮動小数点データ型と固定小数点データ型を比較する方法を示す例。
Simulink モデルでのオーバーフローの処理
モデルにオーバーフローが含まれる場合に受信する警告メッセージを制御します。
正味勾配と正味バイアスの精度
正味勾配と正味バイアスの精度、桁落ち、アンダーフロー、およびオーバーフローの検出。
固定小数点定数の桁落ちの検出
以下の例では、固定小数点定数の桁落ちを検出する方法を示します。
スケーリングされた double を使用した桁落ちの回避
スケーリングされた double をもつモデル内でデータ型をオーバーライドすることで桁落ちを回避する方法。

関連情報

データ型の調査と信号範囲の可視化