最新のリリースでは、このページがまだ翻訳されていません。 このページの最新版は英語でご覧になれます。

resubLoss

クラス: ClassificationNaiveBayes

再代入による単純ベイズ分類器の分類損失

構文

L = resubLoss(Mdl)

L = resubLoss(Mdl,Name,Value)

説明

L = resubLoss(Mdl) は、標本内最小誤分類コスト損失 (L) を返します。これは、Mdl.Y に格納されている真のクラス ラベルと比較して、学習済みの単純ベイズ分類器 Mdl が Mdl.X 内の予測子データをどの程度の精度で分類するかを表すスカラーです。

L = resubLoss(Mdl,Name,Value) は、1 つ以上の Name,Value のペアの引数が指定された追加オプションにより、標本内分類損失を返します。

入力引数

Mdl — 完全な学習済み単純ベイズ分類器

ClassificationNaiveBayes モデル

完全な学習済み単純ベイズ分類器。fitcnb で学習させた ClassificationNaiveBayes モデルとして指定します。

名前と値のペアの引数

オプションの Name,Value 引数のコンマ区切りペアを指定します。Name は引数名で、Value は対応する値です。Name は引用符で囲まなければなりません。Name1,Value1,...,NameN,ValueN のように、複数の名前と値のペアの引数を、任意の順番で指定できます。

'LossFun' — 損失関数

'classiferror' (既定値) | 'binodeviance' | 'exponential' | 'hinge' | 'logit' | 'mincost' | 'quadratic' | 関数ハンドル

損失関数。'LossFun' と組み込みの損失関数名または関数ハンドルから構成されるコンマ区切りのペアとして指定します。

• 次の表は、使用可能な損失関数の一覧です。対応する文字ベクトルまたは string スカラーを使用して、いずれかを指定します。

  値	説明
  'binodeviance'	二項分布からの逸脱度
  'classiferror'	分類誤差
  'exponential'	指数
  'hinge'	ヒンジ
  'logit'	ロジスティック
  'mincost'	最小予測誤分類コスト (事後確率である分類スコアの場合)
  'quadratic'	2 次

  'mincost' は、事後確率である分類スコアに適しています。既定の設定では、単純ベイズ モデルは分類スコアとして事後確率を返します (predict を参照)。

• 関数ハンドル表記を使用して独自の関数を指定します。

  n を X 内の観測値数、K を異なるクラスの数 (numel(Mdl.ClassNames)、Mdl は入力モデル) とします。使用する関数のシグネチャは次のようになっていなければなりません。

  lossvalue = lossfun(C,S,W,Cost)

  ここで、

  • 出力引数 lossvalue はスカラーです。

  • 関数名 (lossfun) を選択します。

  • C は n 行 K 列の logical 行列で、行は対応する観測値が属するクラスを示しています。列の順序は Mdl.ClassNames のクラスの順序に対応します。

    C を作成するには、各行について観測値 p がクラス q に含まれている場合に C(p,q) = 1 を設定します。行 p の他のすべての要素を 0 に設定します。

  • S は、分類スコアの n 行 K 列の行列です。列の順序は Mdl.ClassNames のクラスの順序に対応します。S は分類スコアの行列で、predict の出力と同様です。

  • W は、観測値の重みの n 行 1 列の数値ベクトルです。W を渡す場合、要素は正規化され、合計が 1 になります。

  • Cost は、誤分類コストの、K 行 K 列の数値行列です。たとえば、Cost = ones(K) - eye(K) は、正しい分類のコストとして 0 を、誤分類のコストとして 1 を指定します。

  'LossFun',@lossfun を使用して独自の関数を指定します。

損失関数の詳細については、分類損失を参照してください。

データ型: char | string | function_handle

出力引数

L — 分類損失

スカラー

分類損失。スカラーとして返されます。L は汎化または再代入品質測定です。解釈は損失関数と加重スキームによって異なりますが、通常は、優れた分類器の方が損失値がより小さくなります。

例

単純ベイズ分類器の再代入損失の決定

フィッシャーのアヤメのデータセットを読み込みます。

load fisheriris
X = meas;    % Predictors
Y = species; % Response

単純ベイズ分類器を学習させます。クラスの順序を指定することをお勧めします。ラベルが与えられる場合、各予測子は条件付きで正規分布すると仮定します。

Mdl = fitcnb(X,Y,'ClassNames',{'setosa','versicolor','virginica'});

Mdl は学習させた ClassificationNaiveBayes 分類器です。

既定の再代入損失を推定します。これは、標本内の最小誤分類コストです。

L = resubLoss(Mdl)

L = 0.0400

分類の平均標本内コストは、0.04 です。

単純ベイズ分類器の再代入分類誤差の決定

フィッシャーのアヤメのデータセットを読み込みます。

load fisheriris
X = meas;    % Predictors
Y = species; % Response

単純ベイズ分類器を学習させます。クラスの順序を指定することをお勧めします。ラベルが与えられる場合、各予測子は条件付きで正規分布すると仮定します。

Mdl = fitcnb(X,Y,'ClassNames',{'setosa','versicolor','virginica'});

Mdl は学習させた ClassificationNaiveBayes 分類器です。

誤分類された観測値の標本内比率を推定します。

L = resubLoss(Mdl,'LossFun','classiferror')

L = 0.0400

単純ベイズ分類器は、学習の観測値の 4% を誤分類します。

詳細

分類損失

"分類損失" 関数は分類モデルの予測誤差を評価します。複数のモデルで同じタイプの損失を比較した場合、損失が低い方が予測モデルとして優れていることになります。

以下のシナリオを考えます。

• L は加重平均分類損失です。

• n は標本サイズです。

• バイナリ分類は以下です。

  • y_j は観測されたクラス ラベルです。陰性クラスを示す -1 または陽性クラスを示す 1 を使用して符号化されます。

  • f(X_j) は予測子データ X の観測値 (行) j に対する生の分類スコアです。

  • m_j = y_jf(X_j) は、y_j に対応するクラスに観測値 j を分類する分類スコアです。正の値の m_j は正しい分類を示しており、平均損失に対する寄与は大きくありません。負の値の m_j は正しくない分類を示しており、平均損失に大きく寄与します。

• マルチクラス分類 (つまり、K ≧ 3) をサポートするアルゴリズムの場合、次のようになります。

  • y_j^* は、K - 1 個の 0 と、観測された真のクラス y_j に対応する位置の 1 から構成されるベクトルです。たとえば、2 番目の観測値の真のクラスが 3 番目のクラスであり K = 4 の場合、y^*₂ = [0 0 1 0]′になります。クラスの順序は入力モデルの ClassNames プロパティ内の順序に対応します。

  • f(X_j) は予測子データ X の観測値 j に対するクラス スコアのベクトルで、長さは K です。スコアの順序は入力モデルの ClassNames プロパティ内のクラスの順序に対応します。

  • m_j = y_j^*′f(X_j).したがって m_j は、観測された真のクラスについてモデルが予測するスカラー分類スコアです。

• 観測値 j の重みは w_j です。観測値の重みは正規化され、合計は対応するクラスの事前確率になります。また、事前確率は合計が 1 になるように正規化されます。したがって、次のようになります。

  $${\displaystyle \sum _{j=1}^n{w}_j}=1.$$

この状況では、名前と値のペアの引数 'LossFun' を使用して指定できる、サポートされる損失関数は次の表のようになります。

損失関数	LossFun の値	式
二項分布からの逸脱度	'binodeviance'	$$L={\displaystyle \sum _{j=1}^n{w}_j\log \left\{1+\exp \left[-2m_j\right]\right\}}.$$
指数損失	'exponential'	$$L={\displaystyle \sum _{j=1}^n{w}_j\exp \left(-m_j\right)}.$$
分類誤差	'classiferror'	$$L={\displaystyle \sum _{j=1}^n{w}_j}I\left\{{\widehat{y}}_j\ne y_j\right\}.$$ これは重み付きの誤分類観測値の比率です。$${\widehat{y}}_j$$ は、事後確率が最大であるクラスに対応するクラス ラベルです。I{x} はインジケーター関数です。
ヒンジ損失	'hinge'	$$L={\displaystyle \sum }_{j=1}^n{w}_j\max \left\{0,1-m_j\right\}.$$
ロジット損失	'logit'	$$L={\displaystyle \sum _{j=1}^n{w}_j\log \left(1+\exp \left(-m_j\right)\right)}.$$
最小コスト	'mincost'	最小コスト。重み付きの最小コストは、次の手順を観測値 j = 1、...、n について使用することにより計算されます。 観測値 j の予測分類コストから構成される 1 行 K 列のベクトルを推定します。 $${\gamma }_j=f{\left(X_j\right)}^{\prime }C.$$ f(Xj) はバイナリおよびマルチクラス分類におけるクラスの事後確率の列ベクトルです。C は入力モデルの Cost プロパティに格納されるコスト行列です。 最小の予測分類コストに対応するクラス ラベルを観測値 j について予測します。 $${\widehat{y}}_j=\underset{j=1,\mathrm{...},K}{\min }\left({\gamma }_j\right).$$ C を使用して、予測を行うために必要なコスト (cj) を求めます。 重み付きの平均最小コスト損失は次のようになります。 $$L={\displaystyle \sum _{j=1}^n{w}_j{c}_j}.$$
二次損失	'quadratic'	$$L={\displaystyle \sum _{j=1}^n{w}_j{\left(1-m_j\right)}^2}.$$

次の図では、mに対する 1 つの観測値の ('mincost' 以外の) 損失関数を比較しています。一部の関数は、[0,1] を通過するように正規化されています。

事後確率

"事後確率" はデータが与えられる場合に、観測値が特定のクラスに属している確率です。

単純ベイズの場合、与えられた観測値 (x₁,...,x_P) の分類が k になる事後確率は次のようになります。

$$\widehat{P}\left(Y=k|x_1,\mathrm{..},x_P\right)=\frac{P\left(X_1,\mathrm{...},X_P|y=k\right)\pi \left(Y=k\right)}{P\left(X_1,\mathrm{...},X_P\right)},$$

ここで

• $$P\left(X_1,\mathrm{...},X_P|y=k\right)$$ は、予測子がクラス k に含まれる場合の条件付き同時密度です。予測子の分布名は Mdl.DistributionNames に格納します。

• π(Y = k) はクラスの事前確率の分布です。Mdl.Prior は事前分布を保存します。

• $$P\left(X_1,\mathrm{..},X_P\right)$$ は予測子の同時密度です。各クラスは離散的なので、次のようになります。$$P(X_1,\mathrm{...},X_P)={\displaystyle \sum _{k=1}^{K}P}(X_1,\mathrm{...},X_P|y=k)\pi (Y=k).$$

事前確率

クラスの "事前確率" は、母集団内でそのクラスの観測値が発生すると考えられる相対頻度です。

参照

[1] Hastie, T., R. Tibshirani, and J. Friedman. The Elements of Statistical Learning, second edition. Springer, New York, 2008.

参考

ClassificationNaiveBayes | CompactClassificationNaiveBayes | fitcnb | loss | predict | resubPredict

トピック

• 単純ベイズ分類器

×

Open Example (ja_JP)

A modified version of this example exists on your system. Do you want to open this version instead? (ja_JP)

No, overwrite the modified version (ja_JP) Yes (ja_JP)