Main Content

leakyrelu

漏洩 (leaky) 正規化線形ユニット活性化の適用

説明

漏洩 (leaky) 正規化線形ユニット (ReLU) 活性化演算は、非線形のしきい値処理を実行し、ゼロよりも小さい入力値を固定スケール係数で乗算します。

この処理は次の式と同等です。

f(x)={x,x0scale*x,x<0.

メモ

この関数は、leaky ReLU 演算を dlarray データに適用します。layerGraph オブジェクトまたは Layer 配列内に leaky ReLU 活性化を適用する場合は、次の層を使用します。

Y = leakyrelu(X) は、しきい値処理を適用することにより、入力 X の leaky ReLU 活性化を計算します。X に含まれる 0 未満のすべての値には、既定のスケール係数 0.01 が乗算されます。

Y = leakyrelu(X,scaleFactor) は、leaky ReLU 演算のスケール係数を指定します。

すべて折りたたむ

3 つのチャネルをもつ 28 x 28 のイメージが 128 個格納されたバッチを含む、書式設定された dlarray オブジェクトを作成します。書式を 'SSCB' (空間、空間、チャネル、バッチ) として指定します。

miniBatchSize = 128;
inputSize = [28 28];
numChannels = 3;
X = rand(inputSize(1),inputSize(2),numChannels,miniBatchSize);
X = dlarray(X,"SSCB");

入力データのサイズと形式を表示します。

size(X)
ans = 1×4

    28    28     3   128

dims(X)
ans = 
'SSCB'

関数 leakyrelu を使用して leaky ReLU 演算を適用します。

Y = leakyrelu(X);

出力のサイズと形式を表示します。

size(Y)
ans = 1×4

    28    28     3   128

dims(Y)
ans = 
'SSCB'

3 つのチャネルをもつ 28 x 28 のイメージが 128 個格納されたバッチを含む、書式設定された dlarray オブジェクトを作成します。書式を 'SSCB' (空間、空間、チャネル、バッチ) として指定します。

miniBatchSize = 128;
inputSize = [28 28];
numChannels = 3;
X = rand(inputSize(1),inputSize(2),numChannels,miniBatchSize);
X = dlarray(X,"SSCB");

入力データのサイズと形式を表示します。

size(X)
ans = 1×4

    28    28     3   128

dims(X)
ans = 
'SSCB'

関数 leakyrelu を使用してスケールに 0.5 を指定し、leaky ReLU 演算を適用します。

Y = leakyrelu(X,0.5);

出力のサイズと形式を表示します。

size(Y)
ans = 1×4

    28    28     3   128

dims(Y)
ans = 
'SSCB'

入力引数

すべて折りたたむ

入力データ。書式化された (または書式化されていない) dlarray オブジェクトとして指定します。

負の入力に対するスケール係数。数値スカラーとして指定します。既定値は 0.01 です。

データ型: single | double

出力引数

すべて折りたたむ

leaky ReLU 活性化。dlarray として返されます。出力 Y の基となるデータ型は、入力 X と同じです。

入力データ X が書式化された dlarray である場合、Y の次元形式は X と同じになります。入力データが書式化された dlarray でない場合、Y は、入力データと同じ次元の順序をもつ書式化されていない dlarray になります。

拡張機能

バージョン履歴

R2019b で導入