最新のリリースでは、このページがまだ翻訳されていません。 このページの最新版は英語でご覧になれます。

loss

分類誤差

構文

L = loss(ens,tbl,ResponseVarName)
L = loss(ens,tbl,Y)
L = loss(ens,X,Y)
L = loss(___,Name,Value)


説明

L = loss(ens,tbl,ResponseVarName) は、予測子のテーブル tbl と真のクラス ラベル tbl.ResponseVarName を使用して計算したアンサンブル ens の分類誤差を返します。

L = loss(ens,tbl,Y) は、予測子のテーブル tbl と真のクラス ラベル Y を使用して計算したアンサンブル ens の分類誤差を返します。

L = loss(ens,X,Y) は、予測の行列 X と真のクラス ラベル Y を使用して計算されたアンサンブル ens の分類誤差を返します。

L = loss(___,Name,Value) は、前の構文のいずれかを使用し、1 つ以上の Name,Value ペア引数で指定されたオプションを追加して、分類誤差を計算します。

loss は損失を計算するときに、ens の Prior に格納されている、学習に使用したクラス確率になるように、ResponseVarName または Y のクラス確率を正規化します。

入力引数

ens	関数 fitcensemble で作成されたアンサンブル分類、または、compact を使用して作成されたコンパクト アンサンブル分類。
tbl	標本データ。テーブルとして指定します。tbl の各行は 1 つの観測値に、各列は 1 つの予測子変数に対応します。tbl には、モデルを学習させるために使用したすべての予測子が含まれていなければなりません。文字ベクトルの cell 配列ではない cell 配列と複数列の変数は使用できません。 table に含まれている標本データを使用して ens を学習させた場合、このメソッドの入力データもテーブルでなければなりません。
ResponseVarName	応答変数の名前。tbl 内の変数の名前で指定します。 ResponseVarName には文字ベクトルまたは string スカラーを指定しなければなりません。たとえば、応答変数 Y が tbl.Y として格納されている場合、'Y' として指定します。それ以外の場合、モデルを学習させるときに、tbl の列は Y を含めてすべて予測子として扱われます。
X	分類するデータの行列。X の各行は 1 つの観測値を表し、各列は、1 つの予測子を表します。X は、ens の学習に使用されるデータと同じ列数でなければなりません。X は、Y に含まれる要素数と同じ数の行がなければなりません。 行列に含まれている標本データを使用して ens を学習させた場合、このメソッドの入力データも行列でなければなりません。
Y	tbl または X における観測値のクラス ラベル。Y のデータ型は ens の学習に使用した分類と同じでなければならず、要素数は tbl または X の行数に等しくなければなりません。

名前と値のペアの引数

オプションの引数 Name,Value のコンマ区切りペアを指定します。Name は引数名で、Value は対応する値です。Name は引用符で閉じなければなりません。Name1,Value1,...,NameN,ValueN のように、複数の名前と値のペアの引数を任意の順序で指定できます。

'learners'	1 から ens.NumTrained までのアンサンブルに含まれる弱学習器のインデックス。loss は、これらの学習器を損失計算にのみ使用します。 既定値: 1:NumTrained
'Lossfun'	損失関数。'LossFun' と組み込みの損失関数名または関数ハンドルから構成されるコンマ区切りのペアとして指定します。 次の表は、使用可能な損失関数の一覧です。対応する文字ベクトルまたは string スカラーを使用して、いずれかを指定します。 値 説明 'binodeviance' 二項分布からの逸脱度 'classiferror' 分類誤差 'exponential' 指数 'hinge' ヒンジ 'logit' ロジスティック 'mincost' 最小予測誤分類コスト (事後確率である分類スコアの場合) 'quadratic' 2 次 'mincost' は、事後確率である分類スコアに適しています。 既定の設定では、バギングされたアンサンブルと部分空間アンサンブルは事後確率を返します (ens.Method が 'Bag' または 'Subspace')。 アンサンブル法が 'AdaBoostM1'、'AdaBoostM2'、GentleBoost または 'LogitBoost' の場合、事後確率を分類スコアとして使用するには、次の入力によりダブルロジットのスコア変換を指定しなければなりません。 ens.ScoreTransform = 'doublelogit'; 他のすべてのアンサンブル法の場合、事後確率は分類スコアとしてサポートされていません。 関数ハンドル表記を使用して独自の関数を指定します。 n を X 内の観測値数、K を異なるクラスの数 (numel(ens.ClassNames)、ens は入力モデル) とします。使用する関数のシグネチャは次のようになっていなければなりません。 lossvalue = lossfun(C,S,W,Cost) ここで、 出力引数 lossvalue はスカラーです。 関数名 (lossfun) を選択します。 C は n 行 K 列の logical 行列で、行は対応する観測値が属するクラスを示しています。列の順序は ens.ClassNames のクラスの順序に対応します。 C を作成するには、各行について観測値 p がクラス q に含まれている場合に C(p,q) = 1 を設定します。行 p の他のすべての要素を 0 に設定します。 S は、分類スコアの n 行 K 列の行列です。列の順序は ens.ClassNames のクラスの順序に対応します。S は分類スコアの行列で、predict の出力と同様です。 W は、観測値の重みの n 行 1 列の数値ベクトルです。W を渡す場合、要素は正規化され、合計が 1 になります。 Cost は、誤分類コストの、K 行 K 列の数値行列です。たとえば、Cost = ones(K) - eye(K) は、正しい分類のコストとして 0 を、誤分類のコストとして 1 を指定します。 'LossFun',@lossfun を使用して独自の関数を指定します。 損失関数の詳細については、分類損失を参照してください。 既定値: 'classiferror'
'mode'	出力 L の意味: 'ensemble' — L は、アンサンブル全体に対する損失を表すスカラー値です。 'individual' — L は、学習された学習器ごとに 1 つの要素をもつベクトルです。 'cumulative' — L は、学習器の入力リストから学習器 1:J を使用して要素 J が取得されたベクトルです。 既定値: 'ensemble'
'UseObsForLearner'	N 行 T 列のサイズの logical 行列です。 N は X の行の数です。 T は、ens に存在する弱学習器の数です。 UseObsForLearner(i,j) が true のとき、学習器 j が X の行 i のクラスの予測に使用されます。 既定値: true(N,T)
'weights'	非負のエントリをもつ、観測の重みのベクトル。weights の長さは、X の行数と等しくなければなりません。重みを指定すると、loss は各クラスの観測の重みを正規化し、そのクラスの事前確率の合計になるようにします。 既定値: ones(size(X,1),1)

出力引数

L	分類損失。既定の設定では、誤分類データの比率です。L はベクトルになる可能性があり、名前と値のペアの引数の設定によっては意味が異なります。

例

分類誤差の推定

フィッシャーのアヤメのデータセットを読み込みます。

load fisheriris

AdaBoostM2 を使用して、100 本の決定木によるアンサンブル分類に学習をさせます。弱学習器として木の切り株を指定します。

t = templateTree('MaxNumSplits',1);
ens = fitcensemble(meas,species,'Method','AdaBoostM2','Learners',t);

学習観測値を使用してモデルの分類誤差を推定します。

L = loss(ens,meas,species)

L = 0.0333

または、ens がコンパクトでない場合は、ens を resubLoss に渡すことにより学習標本の分類誤差を推定できます。

詳細

分類損失

"分類損失" 関数は分類モデルの予測誤差を評価します。複数のモデルで同じタイプの損失を比較した場合、損失が低い方が予測モデルとして優れていることになります。

以下のシナリオを考えます。

• L は加重平均分類損失です。

• n は標本サイズです。

• バイナリ分類は以下です。

  • y_j は観測されたクラス ラベルです。陰性クラスを示す -1 または陽性クラスを示す 1 を使用して符号化されます。

  • f(X_j) は予測子データ X の観測値 (行) j に対する生の分類スコアです。

  • m_j = y_jf(X_j) は、y_j に対応するクラスに観測値 j を分類する分類スコアです。正の値の m_j は正しい分類を示しており、平均損失に対する寄与は大きくありません。負の値の m_j は正しくない分類を示しており、平均損失に大きく寄与します。

• マルチクラス分類 (つまり、K ≧ 3) をサポートするアルゴリズムの場合、次のようになります。

  • y_j^* は、K - 1 個の 0 と、観測された真のクラス y_j に対応する位置の 1 から構成されるベクトルです。たとえば、2 番目の観測値の真のクラスが 3 番目のクラスであり K = 4 の場合、y^*₂ = [0 0 1 0]′になります。クラスの順序は入力モデルの ClassNames プロパティ内の順序に対応します。

  • f(X_j) は予測子データ X の観測値 j に対するクラス スコアのベクトルで、長さは K です。スコアの順序は入力モデルの ClassNames プロパティ内のクラスの順序に対応します。

  • m_j = y_j^*′f(X_j).したがって m_j は、観測された真のクラスについてモデルが予測するスカラー分類スコアです。

• 観測値 j の重みは w_j です。観測値の重みは正規化され、合計は対応するクラスの事前確率になります。また、事前確率は合計が 1 になるように正規化されます。したがって、次のようになります。

  $${\displaystyle \sum _{j=1}^n{w}_j}=1.$$

この状況では、名前と値のペアの引数 'LossFun' を使用して指定できる、サポートされる損失関数は次の表のようになります。

損失関数	LossFun の値	式
二項分布からの逸脱度	'binodeviance'	$$L={\displaystyle \sum _{j=1}^n{w}_j\log \left\{1+\exp \left[-2m_j\right]\right\}}.$$
指数損失	'exponential'	$$L={\displaystyle \sum _{j=1}^n{w}_j\exp \left(-m_j\right)}.$$
分類誤差	'classiferror'	$$L={\displaystyle \sum _{j=1}^n{w}_j}I\left\{{\widehat{y}}_j\ne y_j\right\}.$$ これは重み付きの誤分類観測値の比率です。$${\widehat{y}}_j$$ は、事後確率が最大であるクラスに対応するクラス ラベルです。I{x} はインジケーター関数です。
ヒンジ損失	'hinge'	$$L={\displaystyle \sum }_{j=1}^n{w}_j\max \left\{0,1-m_j\right\}.$$
ロジット損失	'logit'	$$L={\displaystyle \sum _{j=1}^n{w}_j\log \left(1+\exp \left(-m_j\right)\right)}.$$
最小コスト	'mincost'	最小コスト。重み付きの最小コストは、次の手順を観測値 j = 1、...、n について使用することにより計算されます。 観測値 j の予測分類コストから構成される 1 行 K 列のベクトルを推定します。 $${\gamma }_j=f{\left(X_j\right)}^{\prime }C.$$ f(Xj) はバイナリおよびマルチクラス分類におけるクラスの事後確率の列ベクトルです。C は入力モデルの Cost プロパティに格納されるコスト行列です。 最小の予測分類コストに対応するクラス ラベルを観測値 j について予測します。 $${\widehat{y}}_j=\underset{j=1,\mathrm{...},K}{\min }\left({\gamma }_j\right).$$ C を使用して、予測を行うために必要なコスト (cj) を求めます。 重み付きの平均最小コスト損失は次のようになります。 $$L={\displaystyle \sum _{j=1}^n{w}_j{c}_j}.$$
二次損失	'quadratic'	$$L={\displaystyle \sum _{j=1}^n{w}_j{\left(1-m_j\right)}^2}.$$

次の図では、mに対する 1 つの観測値の ('mincost' 以外の) 損失関数を比較しています。一部の関数は、[0,1] を通過するように正規化されています。

拡張機能

tall 配列

メモリの許容量を超えるような多数の行を含む配列を計算します。

この関数は、tall 配列を完全にサポートします。詳細は、tall 配列 (MATLAB) を参照してください。

参考

edge | loss | margin | predict