固定小数点の概念

量子化と固定小数点演算

固定小数点数の動的範囲は、同等のワードサイズの浮動小数点をはるかに下回ります。固定小数点データ型を扱うときは、量子化が精度、範囲、スケーリングに与える影響を注意深く考慮しなければなりません。固定小数点データ型はビット単位の語長、2 進小数点の位置および符号付き/なしによって特徴付けられます。2 進小数点の位置によって、固定小数点の値がスケーリングされて解釈されます。