Main Content

このページの翻訳は最新ではありません。ここをクリックして、英語の最新版を参照してください。

データのキャストと量子化

固定小数点データ型と浮動小数点データ型への量子化、データ型間のキャスト

固定小数点アルゴリズムを設計する際は、castzerosoneseye、および subsasgn を使用して、コア アルゴリズムをデータ型の定義から分離します。これらの関数では、同じコードの中で倍精度、単精度、および固定小数点のデータ型を使用できます。手動による固定小数点の変換のベスト プラクティスで、汎用の MATLAB® コードから効率的な固定小数点実装を行う方法を説明しています。

double を使用する完全精度の算術をシミュレートし、アルゴリズムの出力でのみ量子化を行うには、quantizenumeric を使用します。

任意の語長と指数部の長さをもつ浮動小数点データをシミュレートするには、quantizer オブジェクトと関連するオブジェクト関数を使用します。

関数

すべて展開する

eye固定小数点のプロパティをもつ単位行列の作成
ones固定小数点プロパティをもつ、すべて 1 の配列を作成
zeros固定小数点プロパティをもつ、すべて 0 の配列を作成
cast変数を別のデータ型にキャスト
cast64BitFiToInt正確に表現できる fi オブジェクト型を 64 ビット整数データ型にキャスト
cast64BitIntToFi64 ビット整数データ型を等価な fi オブジェクト型にキャスト
castFiToIntfi オブジェクトを等価な整数データ型にキャスト
castFiToMATLABfi オブジェクト型を等価な組み込み MATLAB データ型にキャスト
castIntToFi整数データ型を等価な fi 型にキャスト
subsasgnSubscripted assignment
subsref添字を使った参照
quantizenumericQuantize numeric data
quantizerquantizer オブジェクトの作成
quantizequantizer オブジェクトを使用した数値データの量子化
assignmentquantizerCreate quantizer object with fi object attributes
copyobjquantizer オブジェクトの独立したコピーを作成
randquantquantizer オブジェクトを使用した一様分布の量子化乱数の作成
resetオブジェクトを初期条件にリセット
unitquantizeQuantize numeric data using quantizer object except numbers within eps of +1
unitquantizerCreate unitquantizer object
denormalmaxquantizer オブジェクトの最大の非正規化された量子化数
denormalminquantizer オブジェクトの最小の非正規化された量子化数
epsfi または quantizer オブジェクトの量子化相対精度
exponentbiasquantizer の指数バイアス
exponentlengthquantizer オブジェクトの指数部の長さ
exponentmaxquantizer オブジェクトの最大指数
exponentminquantizer オブジェクトの最小指数
fractionlengthquantizer オブジェクトの小数部の長さ
getオブジェクトのプロパティ値
lsbfi オブジェクトの最下位ビットのスケーリング、または quantizer オブジェクトの最下位ビットの値
rangefi オブジェクトまたは quantizer オブジェクトの数値範囲
realmax正で最大の固定小数点値または量子化数
realmin正で最小の正規化された固定小数点値または量子化数
setquantizer オブジェクトのプロパティ値を設定または表示
tostringfifimathnumerictype、または quantizer オブジェクトを文字列に変換
wordlengthWord length of quantizer object
logreport量子化レポート
maxlog対数最大値
minlog最小値ログの作成
noperationsNumber of quantization operations by quantizer object
noverflowsオーバーフローの総数
nunderflowsアンダーフローの総数
resetlogfi オブジェクトまたは quantizer オブジェクトのログを消去
bin2numquantizer オブジェクトを使用し、2 の補数の 2 進数文字列を数に変換
hex2numquantizer オブジェクトを使用して 16 進数文字列を数値に変換
num2binquantizer オブジェクトを使用して数字を 2 進数表現に変換
num2hexquantizer オブジェクトを使用して数値を 16 進数の等価な値に変換
num2intquantizer オブジェクトを使用して数値を符号付き整数に変換
isequal2 つの fi オブジェクトの実際値が等しいかどうかを判別、または 2 つの fimathnumerictype、または quantizer オブジェクトのプロパティが等しいかどうかを判別
isfixed入力が固定小数点データ型かどうかを判別
isfloat入力が浮動小数点データ型かどうかを判別
isquantizer入力が quantizer オブジェクトであるかどうかを判定
errmean量子化誤差の平均
errpdf量子化誤差の確率密度関数
errvar量子化誤差の分散
roundfi オブジェクトを最も近い整数に丸める、または quantizer オブジェクトを使用して入力データを丸める
fixed.Quantizer固定小数点数の量子化
quantizefixed.Quantizer オブジェクトを使用した fi の値の量子化

トピック