Main Content

最新のリリースでは、このページがまだ翻訳されていません。 このページの最新版は英語でご覧になれます。

精度

精度、丸めとパディングの影響に関する制限

コンピューターのワードは、有限数のビットで構成されています。つまり、変数のバイナリ エンコードは任意の精度をもつ実際値の近似にすぎません。したがって、2 進数表現の制限により、値の精度に対する制限が自動的にもたらされます。

トピック

範囲と精度

数値の範囲によって表現の限界が指定され、精度によって表現の隣接する数値間の距離が指定されます。固定小数点数の範囲と精度は、語長およびスケーリングによって異なります。

精度の最大化

精度を最大化するには、勾配をできるだけ小さくする一方で、妥当な大きさの範囲を確保します。

丸め

丸めの操作により、精度が低下し、量子化誤差と計算ノイズが生じます。

固定小数点 Simulink ブロック用の丸めモード

固定小数点 Simulink® ブロックは 7 種類の丸めモードをサポートします。

正味勾配と正味バイアスの精度

正味勾配と正味バイアスの精度、桁落ち、アンダーフロー、およびオーバーフローの検出

固定小数点定数の桁落ちの検出

以下の例では、固定小数点定数の桁落ちを検出する方法を示します。

スケーリングされた double を使用した桁落ちの回避

スケーリングされた double をもつモデル内でデータ型をオーバーライドすることで桁落ちを回避する方法。

注目の例