このページの内容は最新ではありません。最新版の英語を参照するには、ここをクリックします。
固定小数点の数値円の表示
この例では、符号付き/なしの 2 の補数整数と固定小数点数の定義を示す方法を説明します。
符号なしの整数の数値円
符号なしの整数は、2 進数体系で以下のように表示されます。次のように仮定します。
b = [b(n) b(n-1) ... b(2) b(1)]
n
ビットの符号なしの整数の 2 進桁とし、各 b(i)
が 1 または 0 のいずれかであるとします。b
の値は次のようになります。
u = b(n)*2^(n-1) + b(n-1)*2^(n-2) + ... + b(2)*2^(1) + b(1)*2^(0)
たとえば、3 ビット符号なしの整数の量子化器を定義して、その範囲を列挙します。
q = quantizer('ufixed',[3 0]);
[a,b] = range(q);
u = (a:eps(q):b)'
u = 8×1
0
1
2
3
4
5
6
7
これらの値を 2 進数で表示します。
b = num2bin(q,u)
b = 8x3 char array
'000'
'001'
'010'
'011'
'100'
'101'
'110'
'111'
2 進数値とそれに対応する 10 進数値を、時計の文字盤状に配置します。
numbercircle(q);
符号なし固定小数点の数値円
符号なし固定小数点値は、2 の二乗によってスケーリングされる符号なしの整数です。負の 2 のべき乗の指数は小数部の長さと呼ばれます。
符号なしの整数 u
が前述のように定義され、小数部の長さが f
の場合、符号なし固定小数点数の値は次のようになります。
uf = u*2^-f
たとえば、小数部の長さが 1
の 3 ビット符号なし固定小数点の量子化器を定義して、その範囲を列挙します。
q = quantizer('ufixed',[3 1]);
[a,b] = range(q);
uf = (a:eps(q):b)'
uf = 8×1
0
0.5000
1.0000
1.5000
2.0000
2.5000
3.0000
3.5000
これらの値を 2 進数で表示します。
b = num2bin(q,uf)
b = 8x3 char array
'000'
'001'
'010'
'011'
'100'
'101'
'110'
'111'
2 進数値とそれに対応する 10 進数値を、時計の文字盤状に配置します。
numbercircle(q);
符号なし小数固定小数点の数値円
符号なし小数固定小数点数は、小数部の長さ f
が語長 n
と等しい固定小数点数で、数の範囲が 0
~ 1-2^-f
までのスケーリングを生成します。これは、固定小数点数では最も一般的な形式です。その理由は、すべての数が 1 より小さく、1 より小さい 2 つの数の積が 1 より小さい数であるといった適切な特性をもつためです。したがって、乗算をしてもオーバーフローになりません。
符号なし固定小数点の定義は、f=n
(n
はビット単位の語長) という制限付きの符号なし固定小数点と同じです。
uf = u*2^-f
たとえば、小数部の長さが 3
であることを意味する 3 ビット符号なし小数固定小数点の量子化器を定義します。
q = quantizer('ufixed',[3 3]);
[a,b] = range(q);
uf = (a:eps(q):b)'
uf = 8×1
0
0.1250
0.2500
0.3750
0.5000
0.6250
0.7500
0.8750
これらの値を 2 進数で表示します。
b = num2bin(q,uf)
b = 8x3 char array
'000'
'001'
'010'
'011'
'100'
'101'
'110'
'111'
2 進数値とそれに対応する 10 進数値を、時計の文字盤状に配置します。
numbercircle(q);
符号付き 2 の補数整数の数値円
符号付き整数は、2 進数体系における 2 の補数で以下のように表示されます。次のように仮定します。
b = [b(n) b(n-1) ... b(2) b(1)]
n
ビットの符号付き整数の 2 進桁とし、各 b(i)
が 1 または 0 のいずれかであるとします。b
の値は次のようになります。
s = -b(n)*2^(n-1) + b(n-1)*2^(n-2) + ... + b(2)*2^(1) + b(1)*2^(0)
これと符号なし数値の相違は最上位ビット (MSB) の負の重みであることに注意してください。
たとえば、3 ビット符号付き整数の量子化器を定義して、その範囲を列挙します。
q = quantizer('fixed',[3 0]);
[a,b] = range(q);
s = (a:eps(q):b)'
s = 8×1
-4
-3
-2
-1
0
1
2
3
これらの値を 2 進数で表示します。
b = num2bin(q,s)
b = 8x3 char array
'100'
'101'
'110'
'111'
'000'
'001'
'010'
'011'
負の数値の最上位ビットは 1
で、正の数値の最上位ビットは 0
であることに注意してください。
2 進数値とそれに対応する 10 進数値を、時計の文字盤状に配置します。
numbercircle(q);
負の数の定義が不格好な理由は、正負両方のすべての数の加算があたかもすべての数が正であるように行われ、n+1
キャリー ビットが破棄されるためです。オーバーフローがなければ、結果は正しいことになります。
符号付き固定小数点の数値円
符号付き固定小数点値は、2 の二乗によってスケーリングされる符号付き整数です。負の 2 のべき乗の指数は小数部の長さと呼ばれます。
符号付き整数 s
が前述のように定義され、小数部の長さが f
の場合、符号付き固定小数点数の値は次のようになります。
sf = s*2^-f
たとえば、小数部の長さが 1
の 3 ビット符号付き固定小数点の量子化器を定義して、その範囲を列挙します。
q = quantizer('fixed',[3 1]);
[a,b] = range(q);
sf = (a:eps(q):b)'
sf = 8×1
-2.0000
-1.5000
-1.0000
-0.5000
0
0.5000
1.0000
1.5000
これらの値を 2 進数で表示します。
b = num2bin(q,sf)
b = 8x3 char array
'100'
'101'
'110'
'111'
'000'
'001'
'010'
'011'
2 進数値とそれに対応する 10 進数値を、時計の文字盤状に配置します。
numbercircle(q);
符号付き小数固定小数点の数値円
符号付き小数固定小数点数は、小数部の長さ f
が語長 n
より 1 小さい固定小数点数で、数の範囲が -1
~ 1-2^-f
までのスケーリングを生成します。これは、固定小数点数では最も一般的な形式です。その理由は、1 より小さい 2 つの数の積が 1 より小さい数であるといった適切なプロパティをもち、乗算をしてもオーバーフローにならないためです。唯一の例外は、+1
がこの数体系の要素ではないために -1
× -1
の乗算を行う場合です。プロセッサによってはこの場合には特別な乗算の指示があり、余分なビットを積に加算してオーバーフローをガードします。
符号付き固定小数点の定義は、f=n-1
(n
はビット単位の語長) という制限付きの符号付き固定小数点と同じです。
sf = s*2^-f
たとえば、小数部の長さが 2
であることを意味する 3 ビット符号付き小数固定小数点の量子化器を定義します。
q = quantizer('fixed',[3 2]);
[a,b] = range(q);
sf = (a:eps(q):b)'
sf = 8×1
-1.0000
-0.7500
-0.5000
-0.2500
0
0.2500
0.5000
0.7500
これらの値を 2 進数で表示します。
b = num2bin(q,sf)
b = 8x3 char array
'100'
'101'
'110'
'111'
'000'
'001'
'010'
'011'
2 進数値とそれに対応する 10 進数値を、時計の文字盤状に配置します。
numbercircle(q);
%#ok<*NOPTS,*NASGU>