最新のリリースでは、このページがまだ翻訳されていません。 このページの最新版は英語でご覧になれます。

範囲と精度

数値の "範囲" によって表現の限界が指定され、"精度" によって表現の隣接する数値間の距離が指定されます。固定小数点数の範囲と精度は、語長およびスケーリングによって異なります。

範囲

次の図は、サイズ ws、スケーリング S、バイアス B の符号なし固定小数点数の表現可能な数値の範囲を示したものです。

次の図は、サイズ ws、スケーリング S、バイアス B の 2 の補数固定小数点数の表現可能な数値の範囲を示しています。ここで、ws、スケーリング S、バイアス B は正の数値と負の数値の両方の値を取ることができます。

符号付き固定小数点数も符号なし固定小数点数もデータ型にかかわらず、異なるビット パターン数は 2ws です。

たとえば、固定小数点データ型が S=1 および B = 0 としてスケーリングが定義された整数である場合、ゼロを表現しなければならないため、符号なしの最大値は 2ws1 です。2 の補数では、ゼロと同様に負の数も表現しなければならないため、最大値は 2ws11 です。さらに、ゼロの表現は 1 つしかないため、正の数値と負の数値の数が異ならなければなりません。つまり、2ws1 の表現はありますが、2ws1 の表現はありません。

精度

データ型の精度は、勾配によって提供されます。この使用法では、精度は隣接する表現可能な値間の差を意味します。

固定小数点データ型パラメーター

2 進小数点のみのスケーリングで説明したサポートされる固定小数点データ型の下限、上限、既定の 2 進小数点のみのスケーリングを以下の表に示します。詳細は、精度に対する制限および範囲に対する制限を参照してください。

固定小数点データ型範囲と既定のスケーリング

名前

データ型

下限

上限

既定のスケーリング (精度)

符号なしの整数

fixdt(0,ws,0)

0

2ws1

1

符号付き整数

fixdt(1,ws,0)

2ws1

2ws11

1

符号なし 2 進小数点

fixdt(0,ws,fl)

0

(2ws1)2fl

2fl

符号付き 2 進小数点

fixdt(1,ws,fl)

2ws1fl

(2ws11)2fl

2fl

符号なし勾配 バイアス

fixdt(0,ws,s,b)

b

s(2ws1)+b

s

符号付き勾配 バイアス

fixdt(1,ws,s,b)

s(2ws1)+b

s(2ws11)+b

s

s = 勾配、b = バイアス、ws = 語長、fl = 小数部の長さ

8 ビットの固定小数点データ型の範囲 — 2 進小数点のみのスケーリング

2 進小数点のみのスケーリングでの 8 ビットの一般化固定小数点データ型の精度、符号付き値の範囲、符号なし値の範囲を以下の表に示します。最初のスケーリング値 (21) は、ワードに隣接していない 2 進小数点を表します。

スケーリング

精度

符号付き値の範囲 (下限、上限)

符号なし値の範囲 (下限、上限)

21

2.0

-256, 254

0, 510

20

1.0

-128, 127

0, 255

2-1

0.5

-64, 63.5

0, 127.5

2-2

0.25

-32, 31.75

0, 63.75

2-3

0.125

-16, 15.875

0, 31.875

2-4

0.0625

-8, 7.9375

0, 15.9375

2-5

0.03125

-4, 3.96875

0, 7.96875

2-6

0.015625

-2, 1.984375

0, 3.984375

2-7

0.0078125

-1, 0.9921875

0, 1.9921875

2-8

0.00390625

-0.5, 0.49609375

0, 0.99609375

8 ビット固定小数点データ型の範囲 — 勾配とバイアスのスケーリング

勾配とバイアスのスケーリングを使用している 8 ビット固定小数点データ型に対する符号付きの値と符号なしの値の精度と範囲を次の表に示します。勾配は 1.25 の値で始まり、すべての勾配に対して 1.0 のバイアスが使用されます。勾配は精度と同じであることに注意してください。

バイアス

勾配/精度

符号付き値の範囲 (下限、上限)

符号なし値の範囲 (下限、上限)

1

1.25

-159, 159.75

1, 319.75

1

0.625

-79, 80.375

1, 160.375

1

0.3125

-39, 40.6875

1, 80.6875

1

0.15625

-19, 20.84375

1, 40.84375

1

0.078125

-9, 10.921875

1, 20.921875

1

0.0390625

-4, 5.9609375

1, 10.9609375

1

0.01953125

-1.5, 3.48046875

1, 5.98046875

1

0.009765625

-0.25, 2.240234375

1, 3.490234375

1

0.0048828125

0.375, 1.6201171875

1, 2.2451171875