最新のリリースでは、このページがまだ翻訳されていません。 このページの最新版は英語でご覧になれます。

reluLayer

正規化線形ユニット (ReLU) 層

説明

ReLU 層は、入力の各要素に対してしきい値処理を実行し、値がゼロよりも小さい場合はゼロに設定します。

この処理は次の式と同等です。

$$f\left(x\right)=\{\begin{array}{cc}x,& x\ge 0\\ 0,& x<0\end{array}.$$

作成

構文

layer = reluLayer

layer = reluLayer('Name',Name)

説明

layer = reluLayer は ReLU 層を作成します。

layer = reluLayer('Name',Name) は、ReLU 層を作成し、名前と値のペアを使用して、オプションの Name プロパティを設定します。たとえば、reluLayer('Name','relu1') は、'relu1' という名前の ReLU 層を作成します。プロパティ名を一重引用符で囲みます。

プロパティ

Name — 層の名前

'' (既定値) | 文字ベクトル | string スカラー

層の名前。文字ベクトルまたは string スカラーとして指定します。層グラフに層を含めるには、空ではない一意の層の名前を指定しなければなりません。この層が含まれる系列ネットワークに学習させて Name を '' に設定すると、学習時に層に名前が自動的に割り当てられます。

データ型: char | string

例

ReLU 層の作成

'relu1' という名前の ReLU 層を作成します。

layer = reluLayer('Name','relu1')

layer = 
  ReLULayer with properties:

    Name: 'relu1'

Layer 配列に ReLU 層を含めます。

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    maxPooling2dLayer(2,'Stride',2)
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]

layers = 
  7x1 Layer array with layers:

     1   ''   Image Input             28x28x1 images with 'zerocenter' normalization
     2   ''   Convolution             20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU                    ReLU
     4   ''   Max Pooling             2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     5   ''   Fully Connected         10 fully connected layer
     6   ''   Softmax                 softmax
     7   ''   Classification Output   crossentropyex

詳細

ReLU 層

ReLU 層は、入力の各要素に対してしきい値処理を実行し、値がゼロよりも小さい場合はゼロに設定します。

通常、畳み込み層やバッチ正規化層の後には、ReLU 層によって指定される正規化線形ユニット (ReLU) などの非線形活性化関数が続きます。ReLU 層は、各要素に対してしきい値処理を実行し、次のように入力値がゼロよりも小さい場合はゼロに設定します。

$$f\left(x\right)=\{\begin{array}{cc}x,& x\ge 0\\ 0,& x<0\end{array}.$$

ReLU 層は入力のサイズを変更しません。

標準の ReLU 層とは多少異なる処理を実行し、用途によっては性能が改善される、拡張版の ReLU 層があります。漏洩 ReLU 層は、しきい値処理を実行し、入力値がゼロよりも小さい場合は固定のスカラーによって乗算されます。漏洩 ReLU 層は leakyReluLayer を使用して作成します。クリップされた ReLU 層は、しきい値処理を実行し、入力値がゼロよりも小さい場合はゼロに設定して、値が "クリップ上限" を超える場合はそのクリップ上限に設定します。このクリップにより、出力が大きくなりすぎるのを防ぎます。クリップされた ReLU 層は clippedReluLayer を使用して作成します。

参照

[1] Nair, Vinod, and Geoffrey E. Hinton. "Rectified linear units improve restricted boltzmann machines." In Proceedings of the 27th international conference on machine learning (ICML-10), pp. 807-814. 2010.

参考

BatchNormalizationLayer | ClippedReLULayer | DropoutLayer | ImageInputLayer | LeakyReLULayer | trainNetwork

トピック

• 分類用のシンプルな深層学習ネットワークの作成
• 回帰用の畳み込みニューラル ネットワークの学習
• MATLAB による深層学習
• 畳み込みニューラル ネットワークの層の指定
• 深層学習層の一覧

R2016a で導入