trainscg

スケーリング共役勾配法逆伝播

ページ内をすべて折りたたむ

構文

net.trainFcn = 'trainscg'
[trainedNet,tr] = train(net,...)

説明

net.trainFcn = 'trainscg' は、ネットワークの trainFcn プロパティを設定します。

[trainedNet,tr] = train(net,...) は、trainscg を使用してネットワークに学習させます。

trainscg は、スケーリング共役勾配法に従って重みとバイアスの値を更新するネットワーク学習関数です。

学習は trainscg の学習パラメーターに従って行われます。以下に、学習パラメーターをその既定値と共に示します。

  • net.trainParam.epochs — 学習の最大エポック数。既定値は 1000 です。

  • net.trainParam.show — 表示間のエポック数 (表示なしは NaN)。既定値は 25 です。

  • net.trainParam.showCommandLine — コマンド ライン出力の生成。既定値は false です。

  • net.trainParam.showWindow — 学習 GUI の表示。既定値は true です。

  • net.trainParam.goal — 性能目標。既定値は 0 です。

  • net.trainParam.time — 最大学習時間 (秒単位)。既定値は inf です。

  • net.trainParam.min_grad — 性能の勾配の最小値。既定値は 1e-6 です。

  • net.trainParam.max_fail — 検証エラーの最大回数。既定値は 6 です。

  • net.trainParam.mu — マルカート調整パラメーター。既定値は 0.005 です。

  • net.trainParam.sigma — 2 階微分近似のための重みの変更量の決定。既定値は 5.0e-5 です。

  • net.trainParam.lambda — ヘッシアンの不定性を調整するパラメーター。既定値は 5.0e-7 です。

例

例

すべて折りたたむ

この例では、入力 p およびターゲット t で構成される問題を、ネットワークを使用して解く方法を示します。

p = [0 1 2 3 4 5];
t = [0 0 0 1 1 1];

2 つの隠れニューロンおよびこの学習関数を持つ 2 層フィードフォワード ネットワークが作成されます。

net = feedforwardnet(2,'trainscg');

ネットワークの学習とテストが行われます。

net = train(net,p,t);
a = net(p)

他の例については、help feedforwardnet および help cascadeforwardnet を参照してください。

入力引数

すべて折りたたむ

入力ネットワーク。ネットワーク オブジェクトとして指定します。ネットワーク オブジェクトを作成するには、feedforwardnet、narxnet などを使用します。

出力引数

すべて折りたたむ

学習済みネットワーク。network オブジェクトとして返されます。

学習記録 (epoch および perf)。フィールドがネットワーク学習関数 (net.NET.trainFcn) によって異なる構造体として返されます。含まれるフィールドには以下のものがあります。

  • 学習、データ分割、性能の関数およびパラメーター

  • 学習セット、検証セット、およびテスト セットのデータ分割インデックス

  • 学習セット、検証セット、およびテスト セットのデータ分割マスク

  • エポックの数 (num_epochs) および最適なエポック (best_epoch)

  • 学習の状態名の一覧 (states)

  • 学習全体を通じて値を記録する各状態名のフィールド

  • 最適なネットワーク性能 (best_perf、best_vperf、best_tperf)

詳細

すべて折りたたむ

アルゴリズム

trainscg は、重み関数、正味入力関数、および伝達関数に導関数がある限り、任意のネットワークの学習を行うことができます。重みとバイアスの変数 X に対する性能 perf の微分の計算には、逆伝播が使用されます。

スケーリング共役勾配法アルゴリズムは、traincgp、traincgf、および traincgb のように共役方向に基づきます。ただし、このアルゴリズムは反復ごとの直線探索を行いません。スケーリング共役勾配法アルゴリズムの詳細は、Moller (Neural Networks, Vol. 6, 1993, pp. 525–533) を参照してください。

次のいずれかの条件が発生すると、学習が停止します。

  • epochs (反復回数) の最大数に達する。

  • time の最大値を超える。

  • 性能が goal に最小化される。

  • 性能の勾配が min_grad より小さくなる。

  • 検証性能 (検証誤差) が、最後の低下以降、max_fail 回を超えて増加する (検証の使用時)。

参照

[1] Moller. Neural Networks, Vol. 6, 1993, pp. 525–533

バージョン履歴

R2006a より前に導入

参考

| | | | | | | | |