精度

精度、丸めとパディングの影響に関する制限

コンピューターのワードは、有限数のビットで構成されています。つまり、変数のバイナリエンコードは任意の精度をもつ実際値の近似にすぎません。したがって、2 進数表現の制限により、値の精度に対する制限が自動的にもたらされます。

トピック

範囲と精度
固定小数点データ型の範囲と精度。
精度の最大化
精度を最大化するには、勾配をできるだけ小さくする一方で、妥当な大きさの範囲を確保します。
丸め

丸めの操作により、精度が低下し、量子化誤差と計算ノイズが生じます。
固定小数点 Simulink ブロック用の丸めモード
固定小数点 Simulink^® ブロックは 7 種類の丸めモードをサポートします。
正味勾配と正味バイアスの精度
正味勾配と正味バイアスの精度、桁落ち、アンダーフロー、およびオーバーフローの検出。
固定小数点定数の桁落ちの検出
以下の例では、固定小数点定数の桁落ちを検出する方法を示します。
スケーリングされた double を使用した桁落ちの回避
スケーリングされた double をもつモデル内でデータ型をオーバーライドすることで桁落ちを回避する方法。

この例では、さまざまな丸め手法を使用する場合に、信号の量子化誤差の統計値を計算および比較する方法を説明します。