回帰用の深層学習実験の作成

この例では次を使用します:

この例では、実験マネージャーを使用して回帰用の深層学習ネットワークに学習させる方法を説明します。この例では、回帰モデルを使用して手書きの数字の回転角度を予測します。カスタムメトリクス関数によって、真の角度から許容誤差限界内にある予測角度の割合が判定されます。回帰モデルの使用の詳細については、回帰用の畳み込みニューラルネットワークの学習を参照してください。

実験を開く

まず、例を開きます。実験マネージャーによって、検証と実行が可能な事前構成済みの実験を含むプロジェクトが読み込まれます。実験を開くには、[実験ブラウザー] ペインで、実験の名前 (RegressionExperiment) をダブルクリックします。

組み込みの学習実験は、説明、ハイパーパラメーターのテーブル、セットアップ関数、および実験の結果を評価するためのメトリクス関数の集合で構成されます。詳細については、深層学習実験の構成を参照してください。

[説明] フィールドには、実験を説明するテキストが表示されます。この例の説明は次のようになります。

Regression model to predict angles of rotation of digits, using hyperparameters to specify:
- the number of filters used by the convolution layers
- the probability of the dropout layer in the network

[ハイパーパラメーター] セクションでは、実験で使用する手法 (Exhaustive Sweep) とハイパーパラメーター値を指定します。実験を実行すると、実験マネージャーは、ハイパーパラメーターテーブルで指定されたハイパーパラメーター値のすべての組み合わせを使用してネットワークに学習させます。この例では、以下の 2 つのハイパーパラメーターを使用します。

Probability は、ニューラルネットワークのドロップアウト層の確率を設定します。既定では、このハイパーパラメーターの値は [0.1 0.2] として指定されます。
Filters は、ニューラルネットワークの最初の畳み込み層で使用されるフィルターの数を表します。それ以降の畳み込み層では、フィルターの数はこの値の倍数になります。既定では、このハイパーパラメーターの値は [4 6 8] として指定されます。

[セットアップ関数] は、実験用の学習データ、ネットワークアーキテクチャ、および学習オプションを構成します。セットアップ関数を検査するには、[セットアップ関数] で [編集] をクリックします。MATLAB® エディターでセットアップ関数が開きます。

セットアップ関数への入力は、ハイパーパラメーターテーブルのフィールドをもつ構造体です。このセットアップ関数は、イメージ回帰問題用のネットワークに学習させるために使用する 4 つの出力を返します。このセットアップ関数には 3 つのセクションがあります。

学習データの読み込みでは、実験用の学習データと検証データを 4 次元配列として定義します。学習データセットと検証データセットには、それぞれ 0 ～ 9 の数字から成る 5000 個のイメージが格納されています。回帰値は、数字の回転角度に対応しています。
ネットワークアーキテクチャの定義では、回帰用の畳み込みニューラルネットワークのアーキテクチャを定義します。
学習オプションの指定では、実験用の trainingOptions オブジェクトを定義します。この例では、ネットワークの学習を 30 エポック行います。最初の学習率は 0.001 であり、20 エポック後に 0.1 の係数で学習率を下げます。ソフトウェアは、学習データでネットワークに学習させ、学習中に一定の間隔で検証データに対して平方根平均二乗誤差 (RMSE) と損失を計算します。検証データは、ネットワークの重みの更新には使用されません。

[メトリクス] セクションは、実験結果を評価するオプションの関数を指定します。ネットワークの学習が完了するたびに、実験マネージャーによってこれらの関数が評価されます。メトリクス関数を検査するには、メトリクス関数の名前を選択して [編集] をクリックします。MATLAB エディターでメトリクス関数が開きます。

この例には、真の角度から許容誤差限界内にある予測角度の割合を判定するメトリクス関数 Accuracy が含まれています。既定では、この関数は 10 度のしきい値を使用します。

実験の実行

実験を実行すると、実験マネージャーはセットアップ関数で定義されたネットワークに 6 回学習させます。試行ごとに、ハイパーパラメーター値の異なる組み合わせが使用されます。既定では、実験マネージャーは一度に 1 つの試行を実行します。Parallel Computing Toolbox™ がある場合は、複数の試行を同時に実行できます。最良の結果を得るには、実験を実行する前に、GPU と同じ数のワーカーで並列プールを起動します。詳細については、実験マネージャーを使用したネットワークの並列学習とリリース別の GPU サポート (Parallel Computing Toolbox)を参照してください。

一度に 1 つの実験の試行を実行するには、[実験マネージャー] ツールストリップで [実行] をクリックします。
複数の試行を同時に実行するには、[並列の使用]、[実行] の順にクリックします。現在の並列プールがない場合、実験マネージャーは既定のクラスタープロファイルを使用して並列プールを起動します。次に、実験マネージャーは、使用可能な並列ワーカーの数に応じて、複数の同時試行を実行します。

結果テーブルに、各試行の RMSE と損失が表示されます。この表には、カスタムメトリクス関数 Accuracy によって判定された試行の精度も表示されます。

実験の実行中に [学習プロット] をクリックすると、学習プロットが表示され、各試行の進行状況を追跡できます。

結果の評価

実験で得られた最良の結果を見つけるには、精度の順に結果テーブルを並べ替えます。

[精度] 列をポイントします。
三角形のアイコンをクリックします。
[降順に並べ替え] を選択します。

精度の最も高い試行が、結果テーブルの 1 番上に表示されます。

各試行の性能をテストするには、学習済みネットワークをエクスポートし、各数字クラスの残差を表す箱ひげ図を表示します。

精度が最も高い試行を選択します。
[実験マネージャー] ツールストリップで、[エクスポート] をクリックします。
ダイアログウィンドウで、エクスポートしたネットワークのワークスペース変数の名前を入力します。既定の名前は trainedNetwork です。
エクスポートしたネットワークを関数 plotResiduals への入力として使用します。たとえば、MATLAB コマンドウィンドウで次のように入力します。