learnhd

重み減衰を使用した Hebb 学習規則

構文

[dW,LS] = learnhd(W,P,Z,N,A,T,E,gW,gA,D,LP,LS)
info = learnhd('code')


説明

learnhd は Hebb 重み学習関数です。

[dW,LS] = learnhd(W,P,Z,N,A,T,E,gW,gA,D,LP,LS) は、いくつかの入力を取ります。

W	S 行 R 列の重み行列 (または、S 行 1 列のバイアス ベクトル)
P	R 行 Q 列の入力ベクトル (または ones(1,Q))
Z	S 行 Q 列の重み付き入力ベクトル
N	S 行 Q 列の正味入力ベクトル
A	S 行 Q 列の出力ベクトル
T	S 行 Q 列の層のターゲット ベクトル
E	S 行 Q 列の層の誤差ベクトル
gW	性能に関する S 行 R 列の勾配
gA	性能に関する S 行 Q 列の出力勾配
D	S 行 S 列のニューロン距離
LP	学習パラメーター。なし。LP = []
LS	学習状態。初期値は []

これは、以下を返します。

dW	S 行 R 列の重み (またはバイアス) 変更行列
LS	新しい学習状態

学習は、learnhd の学習パラメーター (以下に既定値を示す) に従って行われます。

LP.dr - 0.01	減衰率
LP.lr - 0.1	学習率

info = learnhd('code') は、次の各 code 文字ベクトルに関する有用な情報を返します。

'pnames'	学習パラメーターの名前
'pdefaults'	既定の学習パラメーター
'needg'	この関数が gW または gA を使用すると 1 が返される

例

ここでは、1 つの 2 要素入力と 3 つのニューロンをもつ層に対し、ランダムな入力 P、出力 A、および重み W を定義します。減衰率と学習率も定義します。

p = rand(2,1);
a = rand(3,1);
w = rand(3,2);
lp.dr = 0.05;
lp.lr = 0.5;

learnhd は、重みの変化の計算でこれらの値のみを必要とするため (下の「アルゴリズム」を参照)、これらをそのように使用します。

dW = learnhd(w,p,[],[],a,[],[],[],[],[],lp,[])

ネットワークの利用

learnhd を使用して学習させるため、カスタム ネットワークの i 層の重みとバイアスを準備するには、次のようにします。

1. net.trainFcn を 'trainr' に設定します。(net.trainParam は自動的に trainr の既定のパラメーターになります。)

2. net.adaptFcn を 'trains' に設定します。(net.adaptParam は自動的に trains の既定のパラメーターになります。)

3. 各 net.inputWeights{i,j}.learnFcn を 'learnhd' に設定します。

4. 各 net.layerWeights{i,j}.learnFcn を 'learnhd' に設定します。(各重みの学習パラメーターのプロパティが、自動的に learnhd の既定のパラメーターに設定されます。)

ネットワークに学習させるには (またはネットワークが適応できるようにするには)、次のようにします。

1. net.trainParam プロパティ (または net.adaptParam プロパティ) を目的の値に設定します。

2. train (または adapt) を呼び出します。

アルゴリズム

learnhd は、指定されたニューロンについて、ニューロンの入力 P、出力 A、減衰率 DR、および学習率 LR に基づき、減衰を使用した Hebb 学習規則に従って重みの変化 dW を計算します。

dw = lr*a*p' - dr*w

バージョン履歴

R2006a より前に導入

参考

learnh | adapt | train