このページの翻訳は最新ではありません。ここをクリックして、英語の最新版を参照してください。

loss

分類誤差

構文

L = loss(obj,X,Y)
L = loss(obj,X,Y,Name,Value)


説明

L = loss(obj,X,Y) は、Y に真の分類が格納されている場合に分類損失 (obj がどの程度の精度で X 内のデータを分類するかを表すスカラー) を返します。

損失を計算する場合、loss は Y のクラス確率を、obj の Prior プロパティに格納されている学習に使用されるクラス確率に正規化します。

L = loss(obj,X,Y,Name,Value) は、1 つまたは複数の Name,Value のペア引数で指定された追加オプションを使用した、損失を戻します。

入力引数

obj	クラス ClassificationDiscriminant または CompactClassificationDiscriminant の判別分析分類器。通常、fitcdiscr で構築されます。
X	各行が 1 つの観測値、各列が 1 つの予測子を表す行列。X の行数は、obj の予測子の数と等しくなければなりません。
Y	obj に存在するのと同じデータ型のクラス ラベル。Y の要素数は、X の行数と等しくなければなりません。

名前と値のペアの引数

オプションの Name,Value 引数のコンマ区切りペアを指定します。Name は引数名で、Value は対応する値です。Name は引用符で囲まなければなりません。Name1,Value1,...,NameN,ValueN のように、複数の名前と値のペアの引数を、任意の順番で指定できます。

'LossFun'

組み込み損失関数名 (表の文字ベクトルまたは string スカラー) または関数ハンドル。 次の表は、使用可能な損失関数の一覧です。対応する値を使用していずれかを指定します。 値 説明 'binodeviance' 二項分布からの逸脱度 'classiferror' 分類誤差 'exponential' 指数 'hinge' ヒンジ 'logit' ロジスティック 'mincost' 最小予測誤分類コスト (事後確率である分類スコアの場合) 'quadratic' 2 次 'mincost' は、事後確率である分類スコアに適しています。既定の設定では、判別分析モデルは分類スコアとして事後確率を返します (predict を参照)。 関数ハンドル表記を使用して独自の関数を指定します。 X 内の観測値数を n、異なるクラスの数 (numel(Mdl.ClassNames)) を K とします。使用する関数のシグネチャは次のようになっていなければなりません。 lossvalue = lossfun(C,S,W,Cost) ここで、 出力引数 lossvalue はスカラーです。 関数名 (lossfun) を選択します。 C は n 行 K 列の logical 行列で、行は対応する観測値が属するクラスを示しています。列の順序は Mdl.ClassNames のクラスの順序に対応します。 C を作成するには、各行について観測値 p がクラス q に含まれている場合に C(p,q) = 1 を設定します。行 p の他のすべての要素を 0 に設定します。 S は、分類スコアの n 行 K 列の行列です。列の順序は Mdl.ClassNames のクラスの順序に対応します。S は分類スコアの行列で、predict の出力と同様です。 W は、観測値の重みの n 行 1 列の数値ベクトルです。W を渡す場合、要素は正規化され、合計が 1 になります。 Cost は、誤分類コストの、K 行 K 列の数値行列です。たとえば、Cost = ones(K) - eye(K) は、正しい分類のコストとして 0 を、誤分類のコストとして 1 を指定します。 'LossFun',@lossfun を使用して独自の関数を指定します。 損失関数の詳細については、分類損失を参照してください。 既定値: 'mincost'

'Weights'

長さ N の数値ベクトルで、ここで N は X の行数です。weights は非負です。loss は各クラスの観測の重みを正規化し、そのクラスの事前確率の合計になるようにします。weights を指定した場合、loss は重み付けした分類損失を計算します。 既定値: ones(N,1)

出力引数

L	分類損失。スカラー。L の解釈は weights と lossfun の値によって異なります。

例

分類誤差の推定

フィッシャーのアヤメのデータセットを読み込みます。

load fisheriris

データ内の観測値をすべて使用して、判別分析モデルに学習をさせます。

Mdl = fitcdiscr(meas,species);

学習観測値を使用してモデルの分類誤差を推定します。

L = loss(Mdl,meas,species)

L = 0.0200

または、Mdl がコンパクトでない場合は、Mdl を resubLoss に渡すことにより学習標本の分類誤差を推定できます。

詳細

分類損失

"分類損失" 関数は分類モデルの予測誤差を評価します。複数のモデルで同じタイプの損失を比較した場合、損失が低い方が予測モデルとして優れていることになります。

以下のシナリオを考えます。

• L は加重平均分類損失です。

• n は標本サイズです。

• バイナリ分類は以下です。

  • y_j は観測されたクラス ラベルです。陰性クラスを示す -1 または陽性クラスを示す 1 を使用して符号化されます。

  • f(X_j) は予測子データ X の観測値 (行) j に対する生の分類スコアです。

  • m_j = y_jf(X_j) は、y_j に対応するクラスに観測値 j を分類する分類スコアです。正の値の m_j は正しい分類を示しており、平均損失に対する寄与は大きくありません。負の値の m_j は正しくない分類を示しており、平均損失に大きく寄与します。

• マルチクラス分類 (つまり、K ≧ 3) をサポートするアルゴリズムの場合、次のようになります。

  • y_j^* は、K - 1 個の 0 と、観測された真のクラス y_j に対応する位置の 1 から構成されるベクトルです。たとえば、2 番目の観測値の真のクラスが 3 番目のクラスであり K = 4 の場合、y₂^* = [0 0 1 0]′ になります。クラスの順序は入力モデルの ClassNames プロパティ内の順序に対応します。

  • f(X_j) は予測子データ X の観測値 j に対するクラス スコアのベクトルで、長さは K です。スコアの順序は入力モデルの ClassNames プロパティ内のクラスの順序に対応します。

  • m_j = y_j^*′f(X_j).したがって m_j は、観測された真のクラスについてモデルが予測するスカラー分類スコアです。

• 観測値 j の重みは w_j です。観測値の重みは正規化され、合計は対応するクラスの事前確率になります。また、事前確率は合計が 1 になるように正規化されます。そのため、次のようになります。

  $${\displaystyle \sum _{j=1}^n{w}_j}=1.$$

この状況では、名前と値のペアの引数 'LossFun' を使用して指定できる、サポートされる損失関数は次の表のようになります。

損失関数	LossFun の値	式
二項分布からの逸脱度	'binodeviance'	$$L={\displaystyle \sum _{j=1}^n{w}_j\log \left\{1+\exp \left[-2m_j\right]\right\}}.$$
指数損失	'exponential'	$$L={\displaystyle \sum _{j=1}^n{w}_j\exp \left(-m_j\right)}.$$
分類誤差	'classiferror'	$$L={\displaystyle \sum _{j=1}^n{w}_j}I\left\{{\widehat{y}}_j\ne y_j\right\}.$$ 分類誤差は重み付きの誤分類観測値の比率です。$${\widehat{y}}_j$$ は、事後確率が最大であるクラスに対応するクラス ラベルです。I{x} はインジケーター関数です。
ヒンジ損失	'hinge'	$$L={\displaystyle \sum }_{j=1}^n{w}_j\max \left\{0,1-m_j\right\}.$$
ロジット損失	'logit'	$$L={\displaystyle \sum _{j=1}^n{w}_j\log \left(1+\exp \left(-m_j\right)\right)}.$$
最小コスト	'mincost'	重み付きの最小コストは、次の手順を観測値 j = 1、...、n について使用することにより計算されます。 観測値 j の予測分類コストから構成される 1 行 K 列のベクトルを推定します。 $${\gamma }_{jk}={\left(f{\left(X_j\right)}^{\prime }C\right)}_k.$$ f(Xj) はバイナリおよびマルチクラス分類におけるクラスの事後確率の列ベクトルです。C は入力モデルによって Cost プロパティに格納されるコスト行列です。 最小の予測分類コストに対応するクラス ラベルを観測値 j について予測します。 $${\widehat{y}}_j=\underset{k=1,\mathrm{...},K}{\text{argmin}}{\gamma }_{jk}.$$ C を使用して、予測を行うために必要なコスト (cj) を求めます。 重み付きの平均最小コスト損失は次のようになります。 $$L={\displaystyle \sum _{j=1}^n{w}_j{c}_j}.$$
二次損失	'quadratic'	$$L={\displaystyle \sum _{j=1}^n{w}_j{\left(1-m_j\right)}^2}.$$

次の図では、mに対する 1 つの観測値の損失関数 ('mincost' を除く) を比較しています。いくつかの関数は、[0,1] を通過するように正規化されています。

事後確率

点 x がクラス k に属する事後確率は、事前確率と多変量正規密度の積です。1 行 d 列の平均 μ_k および 1 行 d 列の点 x における d 行 d 列の共分散 Σ_k をもつ、多変量正規密度関数は次のとおりです。

$$P\left(x|k\right)=\frac{1}{{\left({\left(2\pi \right)}^d\left|{\Sigma }_k\right|\right)}^{1/2}}\exp \left(-\frac{1}{2}\left(x-{\mu }_k\right){\Sigma }_k^{-1}{\left(x-{\mu }_k\right)}^T\right),$$

ここで、$$\left|{\Sigma }_k\right|$$ は Σ_k の行列式、$${\Sigma }_k^{-1}$$ は逆行列です。

P(k) でクラス k の事前確率を表してみます。すると、観測 x がクラス k になる事後確率は次のとおりです。

$$\widehat{P}\left(k|x\right)=\frac{P\left(x|k\right)P\left(k\right)}{P\left(x\right)},$$

ここで P(x) は正規化定数、P(x|k)P(k) の合計 k です。

事前確率

事前確率は次の 3 つの選択肢のいずれかです。

• 'uniform' — クラス k の事前確率は、クラスの総数に対して 1 です。

• 'empirical' — クラス k の事前確率は、クラス k の学習標本の数を学習標本の合計で除算した値です。

• カスタム — クラス k の事前確率は、prior ベクトルの k 番目の要素です。fitcdiscr を参照してください。

分類モデル (Mdl) を作成した後で、ドット表記を使用して事前確率を設定できます。

Mdl.Prior = v;

ここで v は各要素が発生する頻度を表す正の要素のベクトルです。新しい事前確率を設定する場合に、分類器に再学習させる必要はありません。

コスト

観測ごとの予測コストの行列は、コストで定義されています。

拡張機能

tall 配列

メモリの許容量を超えるような多数の行を含む配列を計算します。

この関数は、tall 配列を完全にサポートします。この関数でインメモリ データまたは tall データに対して学習を行ったモデルを使用できます。

詳細は、tall 配列を参照してください。

参考

ClassificationDiscriminant | edge | fitcdiscr | margin | predict

トピック

• 判別分析分類

×

例を開く

この例の変更されたバージョンがあります。編集された方の例を開きますか?

いいえ、変更されたバージョンを上書きします。 はい