量子化

実際値 "V" の量子化 Q は、ビットの重み付き総和で表されます。一般勾配とバイアス エンコード スキームのコンテキストでは、符号なし固定小数点量の近似実際値 $$\tilde{V}$$ は以下から取得します。

$$\tilde{V}=S·\left[{\displaystyle \sum _{i=0}^{ws-1}{b}_i{2}^i}\right]+B,$$

符号付き固定小数点量の近似実際値は以下から取得します。

$$\tilde{V}=S·\left[-b_{ws-1}{2}^{ws-1}+{\displaystyle \sum _{i=0}^{ws-2}{b}_i{2}^i}\right]+B,$$

ここで、

• $$b_i$$ は 2 進数で、$$i=0,1,\mathrm{...},ws-1$$ に対して $$b_i=1,0$$ です。

• ws はビット単位のワード サイズで、ws = 1, 2, 3,..., 128 です。

• S は、$$S=F\ast 2^E$$ によって与えられます。2 進小数点はワードと隣接している必要はないので、スケーリングは制限されません。F は勾配調整係数で、[1.0, 2.0) の範囲の値です。

$$b_i$$ は "ビット乗算器"、$$2^i$$ は "重み" と呼ばれます。

固定小数点形式

8 ビットの符号付きおよび符号なし固定小数点値の形式を以下の図に示します。

これらの数値が符号付きデータ型か符合なしデータ型かの情報は、ワード内で明示的にエンコードされていないため、調べただけではわかりません。

MSB = 0 であるため、2 進数 0011.0101 は、符号なしと 2 の補数の表現に対して同じ値を生成します。B = 0 を設定し、適切な重み、ビット乗算器、およびスケーリングを使用すると、値は次のようになります。

$$\begin{array}{c}\tilde{V}=\left(F{2}^E\right)Q=2^E\left[{\displaystyle \sum _{i=0}^{ws-1}{b}_i{2}^i}\right]\\ =2^{-4}\left(0\times 2^7+0\times 2^6+1\times 2^5+1\times 2^4+0\times 2^3+1\times 2^2+0\times 2^1+1\times 2^0\right)\\ =\mathrm{3.3125.}\end{array}$$

逆に、MSB = 1 であるため、2 進数 1011.0101 は、符号なしと 2 の補数の表現に対して異なる値を生成します。

B = 0 を設定し、適切な重み、ビット乗算器、およびスケーリングを使用すると、符号なしの値は次のようになります。

$$\begin{array}{c}\tilde{V}=\left(F{2}^E\right)Q=2^E\left[{\displaystyle \sum _{i=0}^{ws-1}{b}_i{2}^i}\right]\\ =2^{-4}\left(1\times 2^7+0\times 2^6+1\times 2^5+1\times 2^4+0\times 2^3+1\times 2^2+0\times 2^1+1\times 2^0\right)\\ =11.3125,\end{array}$$

ただし、2 の補数の値は次のようになります。

$$\begin{array}{c}\tilde{V}=\left(F{2}^E\right)Q=2^E\left[-b_{ws-1}{2}^{ws-1}+{\displaystyle \sum _{i=0}^{ws-2}{b}_i{2}^i}\right]\\ =2^{-4}\left(-1\times 2^7+0\times 2^6+1\times 2^5+1\times 2^4+0\times 2^3+1\times 2^2+0\times 2^1+1\times 2^0\right)\\ =-\mathrm{4.6875.}\end{array}$$

参考

Simulink における固定小数点数 | スケーリング