Main Content

固定小数点データ

非浮動小数点値の効率的な近似

固定小数点数は、整数ベースのエンコード スキームを使用して実数を近似します。これにより、基本システム ハードウェアでの浮動小数点サポートを必要としない、数値計算の効率的な別法が提供されます。エンコード スキームを調整して、計算における精度の低下を最小限にします。

トピック

注目の例