固定小数点数の範囲の決定

固定小数点変数では、精度が制限されているのと同じ理由で、範囲が制限されます。デジタル システムでは、有限数のビットを使用して数値を表現するためです。一般的な例として、サイズ ws の整数が固定小数点ワードとして表現される場合を考えてみてください。符号付きワードと符号なしワードの範囲は以下で与えられます。

$$\max \left(Q\right)-\min \left(Q\right),$$

ここで、

$$\begin{array}{c}\min \left(Q\right)=\{\begin{array}{cc}\text{0 }& \text{ unsigned,}\\ -2^{ws-1}& \text{ signed,}\end{array}\\ \max \left(Q\right)=\{\begin{array}{cc}{2}^{ws}-1& \text{ unsigned,}\\ 2^{ws-1}-1& \text{signed}\text{. }\end{array}\end{array}$$

スケーリングで説明する一般的な [勾配 バイアス] エンコード スキームを使用すると、近似実際値の範囲は次のようになります。

$$\max \left(\tilde{V}\right)-\min \left(\tilde{V}\right),$$

ここで、

$$\begin{array}{c}\min \left(\tilde{V}\right)=\{\begin{array}{cc}\text{B }& \text{ unsigned,}\\ -F{2}^E\left(2^{ws-1}\right)+B& \text{ signed,}\end{array}\\ \max \left(\tilde{V}\right)=\{\begin{array}{cc}F{2}^E\left(2^{ws}-1\right)\text{+B }& \text{ unsigned,}\\ F{2}^E\left(2^{ws-1}-1\right)\text{+B }& \text{signed}\text{. }\end{array}\end{array}$$

実際値が近似値の制限範囲を超えた場合は、表現の精度が大きく低下することがあります。