固定小数点の概念

量子化と固定小数点演算

固定小数点数のダイナミック レンジは、同等のワード サイズの浮動小数点をはるかに下回ります。固定小数点データ型を扱うときは、量子化が精度、範囲、スケーリングに与える影響を注意深く考慮しなければなりません。固定小数点データ型はビット単位の語長、2 進小数点の位置および符号付き/なしによって特徴付けられます。2 進小数点の位置によって、固定小数点の値がスケーリングされて解釈されます。

カテゴリ

  • 量子化
    固定小数点データ型の精度、範囲、スケーリング
  • 固定小数点演算
    ソフトウェアで固定小数点算術演算を実行する、データ型とスケーリングへの影響