oobLoss

out-of-bag 分類誤差

構文

L = oobLoss(ens)
L = oobLoss(ens,Name,Value)


説明

L = oobLoss(ens) は、out-of-bag データについて計算された ens の分類誤差を返します。

L = oobLoss(ens,Name,Value) では、1 つ以上の Name,Value のペア引数で指定された追加オプションを使用して、誤差を計算します。Name1,Value1,…,NameN,ValueN のように、複数の名前と値のペアの引数を任意の順番で指定できます。

入力引数

ens	関数 fitcensemble を使用して作成された、分類バギング アンサンブル。

名前と値の引数

オプションの引数のペアを Name1=Value1,...,NameN=ValueN として指定します。ここで Name は引数名、Value は対応する値です。名前と値の引数は他の引数の後ろにする必要がありますが、ペアの順序は関係ありません。

R2021a より前では、名前と値をそれぞれコンマを使って区切り、Name を引用符で囲みます。

learners	アンサンブルに含まれている 1 から ens.NumTrained までの弱学習器のインデックス。oobLoss は、これらの学習器のみを損失の計算に使用します。 既定値: 1:NumTrained
lossfun	損失関数。'LossFun' と組み込み損失関数名または関数ハンドルから構成されるコンマ区切りのペアとして指定します。 次の表は、使用可能な損失関数の一覧です。対応する文字ベクトルまたは string スカラーを使用して、いずれかを指定します。 値 説明 'binodeviance' 二項分布からの逸脱度 'classifcost' 観測誤分類コスト 'classiferror' 10 進数の誤分類率 'exponential' 指数損失 'hinge' ヒンジ損失 'logit' ロジスティック損失 'mincost' 最小予測誤分類コスト (事後確率である分類スコアの場合) 'quadratic' 二次損失 'mincost' は、事後確率である分類スコアに適しています。既定の設定では、バギング アンサンブルは分類スコアとして事後確率を返します。 関数ハンドル表記を使用して独自の関数を指定します。 n を X 内の観測値数、K を異なるクラスの数 (numel(ens.ClassNames)、ens は入力モデル) とします。使用する関数のシグネチャは次のようになっていなければなりません。 lossvalue = lossfun(C,S,W,Cost) ここで、 出力引数 lossvalue はスカラーです。 関数名 (lossfun) を選択します。 C は n 行 K 列の logical 行列で、行は対応する観測値が属するクラスを示しています。列の順序は ens.ClassNames のクラスの順序に対応します。 C を作成するには、各行について観測値 p がクラス q に含まれている場合に C(p,q) = 1 を設定します。行 p の他のすべての要素を 0 に設定します。 S は、分類スコアの n 行 K 列の行列です。列の順序は ens.ClassNames のクラスの順序に対応します。S は分類スコアの行列で、predict の出力と同様です。 W は、観測値の重みの n 行 1 列の数値ベクトルです。W を渡す場合、要素は正規化され、合計が 1 になります。 Cost は、誤分類コストの、K 行 K 列の数値行列です。たとえば、Cost = ones(K) - eye(K) は、正しい分類のコストとして 0 を、誤分類のコストとして 1 を指定します。 'LossFun',@lossfun を使用して独自の関数を指定します。 損失関数の詳細については、分類損失を参照してください。 既定値: 'classiferror'
mode	出力 L の意味を表す文字ベクトルまたは string スカラー。 'ensemble' — L は、アンサンブル全体に対する損失を表すスカラー値です。 'individual' — L は、学習された学習器ごとに 1 つの要素をもつベクトルです。 'cumulative' — L は、学習器の入力リストから学習器 1:J を使用して要素 J が取得されたベクトルです。 既定値: 'ensemble'
UseParallel	推定を並列で実行するための指定。false (逐次計算) または true (並列計算) として指定します。並列計算には Parallel Computing Toolbox™ が必要です。特に大規模なデータセットでは、並列推定の方が逐次推定よりも高速になる可能性があります。並列計算は木学習器でのみサポートされます。 既定値: false

出力引数

L	out-of-bag 観測値の分類損失。スカラー。名前と値のペアの引数の設定によって、L はベクトルになるか、異なる量を表します。

例

out-of-bag 誤差の推定

フィッシャーのアヤメのデータセットを読み込みます。

load fisheriris

100 本の分類の bag of trees を成長させます。

ens = fitcensemble(meas,species,'Method','Bag');

out-of-bag 分類誤差を推定します。

L = oobLoss(ens)

L = 0.0400

詳細

Out of Bag

"bootstrap aggregation" を意味する "バギング" は、アンサンブル学習の一種です。データセット上の決定木などの弱学習器をバギングするには、関数 fitcensemble を使用してデータセットのブートストラップ複製を数多く生成し、この複製上で決定木を成長させます。関数 fitcensemble は、復元抽出により N から N 観測値を無作為に選択することで、それぞれのブートストラップ複製を取得します (N はデータセットのサイズです)。学習したアンサンブルの予測された応答を見つけるには、predict で個々のツリーからの予測の平均を取ります。

復元抽出法により N 観測値から N を抽出すると、決定木ごとに平均 37% (1/e) の観測値が省略されます。これが "out-of-bag" 観測です。観測ごとに oobLoss を使用して out-of-bag 予測を推定するには、この観測が out-of-bag になっているアンサンブル内のすべてのツリーからの予測を平均します。それから、この観測の真の応答に対して、計算された予測を比較することができます。out-of-bag 予測応答を学習に使用したすべての観測の真の応答と比較することにより、out-of-bag の誤差を計算します。この out-of-bag の平均は真のアンサンブル誤差の不偏推定量です。

分類損失

"分類損失" 関数は分類モデルの予測誤差を評価します。複数のモデルで同じタイプの損失を比較した場合、損失が低い方が予測モデルとして優れていることになります。

以下のシナリオを考えます。

• L は加重平均分類損失です。

• n は標本サイズです。

• バイナリ分類は以下です。

  • y_j は観測されたクラス ラベルです。陰性クラスを示す -1 または陽性クラスを示す 1 (あるいは、ClassNames プロパティの最初のクラスを示す -1 または 2 番目のクラスを示す 1) を使用して符号化されます。

  • f(X_j) は予測子データ X の観測値 (行) j に対する陽性クラスの分類スコアです。

  • m_j = y_jf(X_j) は、y_j に対応するクラスに観測値 j を分類する分類スコアです。正の値の m_j は正しい分類を示しており、平均損失に対する寄与は大きくありません。負の値の m_j は正しくない分類を示しており、平均損失に大きく寄与します。

• マルチクラス分類 (つまり、K ≥ 3) をサポートするアルゴリズムの場合、次のようになります。

  • y_j^* は、K - 1 個の 0 と、観測された真のクラス y_j に対応する位置の 1 から構成されるベクトルです。たとえば、2 番目の観測値の真のクラスが 3 番目のクラスであり K = 4 の場合、y₂^* = [0 0 1 0]′ になります。クラスの順序は入力モデルの ClassNames プロパティ内の順序に対応します。

  • f(X_j) は予測子データ X の観測値 j に対するクラス スコアのベクトルで、長さは K です。スコアの順序は入力モデルの ClassNames プロパティ内のクラスの順序に対応します。

  • m_j = y_j^*′f(X_j).したがって m_j は、観測された真のクラスについてモデルが予測するスカラー分類スコアです。

• 観測値 j の重みは w_j です。観測値の重みは、その合計が Prior プロパティに格納された対応するクラスの事前確率になるように正規化されます。そのため、次のようになります。

  $${\displaystyle \sum _{j=1}^n{w}_j}=1.$$

この状況では、名前と値の引数 LossFun を使用して指定できる、サポートされる損失関数は次の表のようになります。

損失関数	LossFun の値	式
二項分布からの逸脱度	'binodeviance'	$$L={\displaystyle \sum _{j=1}^n{w}_j\log \left\{1+\exp \left[-2m_j\right]\right\}}.$$
観測誤分類コスト	'classifcost'	$$L={\displaystyle \sum _{j=1}^n{w}_j}{c}_{y_j{\widehat{y}}_j},$$ ここで、$${\widehat{y}}_j$$ はスコアが最大のクラスに対応するクラス ラベル、$$c_{y_j{\widehat{y}}_j}$$ は真のクラスが yj である場合に観測値をクラス $${\widehat{y}}_j$$ に分類するユーザー指定のコストです。
10 進数の誤分類率	'classiferror'	$$L={\displaystyle \sum _{j=1}^n{w}_j}I\left\{{\widehat{y}}_j\ne y_j\right\},$$ ここで、I{·} はインジケーター関数です。
クロスエントロピー損失	'crossentropy'	'crossentropy' はニューラル ネットワーク モデルのみに適しています。 加重クロスエントロピー損失は次となります。 $$L=-{\displaystyle \sum _{j=1}^n\frac{{\tilde{w}}_j\log (m_j)}{Kn}},$$ ここで重み $${\tilde{w}}_j$$ は、合計が 1 ではなく n になるように正規化されます。
指数損失	'exponential'	$$L={\displaystyle \sum _{j=1}^n{w}_j\exp \left(-m_j\right)}.$$
ヒンジ損失	'hinge'	$$L={\displaystyle \sum }_{j=1}^n{w}_j\max \left\{0,1-m_j\right\}.$$
ロジット損失	'logit'	$$L={\displaystyle \sum _{j=1}^n{w}_j\log \left(1+\exp \left(-m_j\right)\right)}.$$
最小予測誤分類コスト	'mincost'	'mincost' は、分類スコアが事後確率の場合にのみ適しています。 重み付きの最小予測分類コストは、次の手順を観測値 j = 1、...、n について使用することにより計算されます。 観測値 Xj をクラス k に分類する予測誤分類コストを推定します。 $${\gamma }_{jk}={\left(f{\left(X_j\right)}^{\prime }C\right)}_k.$$ f(Xj) は観測値 Xj のクラス事後確率の列ベクトルです。C はモデルの Cost プロパティに格納されるコスト行列です。 最小予測誤分類コストに対応するクラス ラベルを観測値 j について予測します。 $${\widehat{y}}_j=\underset{k=1,\mathrm{...},K}{\text{argmin}}{\gamma }_{jk}.$$ C を使用して、予測を行うために必要なコスト (cj) を求めます。 最小予測誤分類コスト損失の加重平均は次となります。 $$L={\displaystyle \sum _{j=1}^n{w}_j{c}_j}.$$
二次損失	'quadratic'	$$L={\displaystyle \sum _{j=1}^n{w}_j{\left(1-m_j\right)}^2}.$$

既定のコスト行列 (正しい分類の場合の要素値は 0、誤った分類の場合の要素値は 1) を使用する場合、'classifcost'、'classiferror'、および 'mincost' の損失の値は同じです。既定以外のコスト行列をもつモデルでは、ほとんどの場合は 'classifcost' の損失と 'mincost' の損失が等価になります。これらの損失が異なる値になる可能性があるのは、最大の事後確率をもつクラスへの予測と最小の予測コストをもつクラスへの予測が異なる場合です。'mincost' は分類スコアが事後確率の場合にしか適さないことに注意してください。

次の図では、1 つの観測値のスコア m に対する損失関数 ('classifcost'、'crossentropy'、および 'mincost' を除く) を比較しています。いくつかの関数は、点 (0,1) を通過するように正規化されています。

拡張機能

自動並列サポート

Parallel Computing Toolbox™ を使用して自動的に並列計算を実行することで、コードを高速化します。

並列実行するには、この関数を呼び出すときに名前と値の引数 UseParallel を true に設定します。

並列計算の全般的な情報については、自動並列サポートを使用した MATLAB 関数の実行 (Parallel Computing Toolbox)を参照してください。

バージョン履歴

R2022a: 既定以外のコスト行列をもつモデルに対して oobLoss で異なる値が返される

入力モデル オブジェクトに学習させるときに既定以外のコスト行列を指定すると、関数 oobLoss で以前のリリースとは異なる値が返されます。

関数 oobLoss は、W プロパティに格納された観測値の重みを使用します。さらに、名前と値の引数 LossFun を "classifcost" または "mincost" として指定した場合、関数は Cost プロパティに格納されたコスト行列を使用します。W プロパティと Cost プロパティの値を関数で使用する方法については変更されていません。ただし、既定以外のコスト行列をもつモデルについて入力モデル オブジェクトに格納されるプロパティの値が変更されたため、関数から異なる値が返されることがあります。

プロパティの値の変更に関する詳細については、Cost プロパティにユーザー指定のコスト行列を格納を参照してください。

ソフトウェアでコスト行列、事前確率、および観測値の重みを以前のリリースと同じように扱う場合は、誤分類コスト行列に応じた事前確率と観測値の重みの調整の説明に従って、既定以外のコスト行列の事前確率と観測値の重みを調整します。その後、分類モデルに学習させるときに、調整後の事前確率と観測値の重みを名前と値の引数 Prior と Weights を使用して指定し、既定のコスト行列を使用します。

参考

loss | oobEdge | oobMargin | oobPredict

×

例を開く

この例の変更されたバージョンがあります。編集された方の例を開きますか?

いいえ、変更されたバージョンを上書きします。 はい