最新のリリースでは、このページがまだ翻訳されていません。 このページの最新版は英語でご覧になれます。

softmaxLayer

ソフトマックス層

説明

ソフトマックス層は、入力にソフトマックス関数を適用します。

作成

構文

layer = softmaxLayer

layer = softmaxLayer('Name',Name)

説明

layer = softmaxLayer はソフトマックス層を作成します。

layer = softmaxLayer('Name',Name) は、ソフトマックス層を作成し、名前と値のペアを使用して、オプションの Name プロパティを設定します。たとえば、softmaxLayer('Name','sm1') は、'sm1' という名前のソフトマックス層を作成します。プロパティ名を一重引用符で囲みます。

プロパティ

Name — 層の名前

'' (既定値) | 文字ベクトル | string スカラー

層の名前。文字ベクトルまたは string スカラーとして指定します。層グラフに層を含めるには、空ではない一意の層の名前を指定しなければなりません。この層が含まれる系列ネットワークに学習させて Name を '' に設定すると、学習時に層に名前が自動的に割り当てられます。

データ型: char | string

例

ソフトマックス層の作成

'sm1' という名前のソフトマックス層を作成します。

layer = softmaxLayer('Name','sm1')

layer = 
  SoftmaxLayer with properties:

    Name: 'sm1'

Layer 配列にソフトマックス層を含めます。

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    maxPooling2dLayer(2,'Stride',2)
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]

layers = 
  7x1 Layer array with layers:

     1   ''   Image Input             28x28x1 images with 'zerocenter' normalization
     2   ''   Convolution             20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU                    ReLU
     4   ''   Max Pooling             2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     5   ''   Fully Connected         10 fully connected layer
     6   ''   Softmax                 softmax
     7   ''   Classification Output   crossentropyex

詳細

ソフトマックス層

ソフトマックス層は、入力にソフトマックス関数を適用します。

分類問題の場合、ソフトマックス層とその後の分類層は、最後の全結合層の後に配置しなければなりません。

出力ユニットの活性化関数は次のソフトマックス関数です。

$$y_r\left(x\right)=\frac{\exp \left(a_r\left(x\right)\right)}{{\displaystyle \sum _{j=1}^k\exp \left(a_j\left(x\right)\right)}},$$

ここで、$$0\le y_r\le 1$$ および $${\displaystyle \sum _{j=1}^k{y}_j=1}$$ です。

ソフトマックス関数は、マルチクラス分類問題の場合、最後の全結合層の後の出力ユニットの活性化関数です。

$$P\left(c_r|x,\theta \right)=\frac{P\left(x,\theta |c_r\right)P\left(c_r\right)}{{\displaystyle \sum _{j=1}^{k}P\left(x,\theta |c_j\right)P\left(c_j\right)}}=\frac{\exp \left(a_r\left(x,\theta \right)\right)}{{\displaystyle \sum _{j=1}^k\exp \left(a_j\left(x,\theta \right)\right)}},$$

ここで、$$0\le P\left(c_r|x,\theta \right)\le 1$$ および $${\displaystyle \sum _{j=1}^{k}P\left(c_j|x,\theta \right)=1}$$ です。また、$$a_r=\ln \left(P\left(x,\theta |c_r\right)P\left(c_r\right)\right)$$ です。$$P\left(x,\theta |c_r\right)$$ はクラス r である場合の標本の条件付き確率で、$$P\left(c_r\right)$$ はクラスの事前確率です。

ソフトマックス関数は、"正規化指数関数" とも呼ばれ、ロジスティック シグモイド関数のマルチクラスへの汎化と見なすことができます [1]。

参照

[1] Bishop, C. M. Pattern Recognition and Machine Learning. Springer, New York, NY, 2006.

参考

ClassificationOutputLayer | Convolution2dLayer | FullyConnectedLayer | trainNetwork

トピック

• 分類用のシンプルな深層学習ネットワークの作成
• 回帰用の畳み込みニューラル ネットワークの学習
• MATLAB による深層学習
• 畳み込みニューラル ネットワークの層の指定
• 深層学習層の一覧

R2016a で導入