ドキュメンテーション

最新のリリースでは、このページがまだ翻訳されていません。 このページの最新版は英語でご覧になれます。

丸め

固定小数点数に対する演算の結果は、この数の元の形式より長いレジスタに通常格納されます。結果を元の形式に戻すとき、余分なビットは破棄しなければなりません。つまり、結果は丸めなければなりません。丸めの操作により、精度が低下し、量子化誤差と計算ノイズが生じます。

丸めモードの選択

アプリケーションに最も適した丸めモードを選択するには、システム要件と各丸めモードのプロパティを考慮しなければなりません。考慮すべき重要な特性は次のとおりです。

  • コスト — 使用しているハードウェアと関係なく、丸め手法にどれくらいの処理コストが必要か

  • バイアス — 丸めた値から元の値を引いた値の期待値は何か

  • オーバーフローの可能性 — 丸め手法によってオーバーフローが生じる可能性があるか

それぞれの丸めモードをどのような場合に使用するかについては、丸め手法を参照してください。

診断のための丸めモードの選択

正方向の丸めと負方向の丸めは、診断に役立つことがあります。たとえば、一連の算術演算を実行すると、ワード サイズの制限により丸めが生じるので、正確な解がわからなくなることがあります。各演算が、2 回実行され、正の無限大方向の丸めと負の無限大方向の丸めが 1 回ずつ発生する場合は、正しい解の上限と下限を求めます。次に、結果が十分正確であるか、追加の解析が必要であるかを判断します。

関連するトピック