swishLayer

Swish 層

R2021a 以降

説明

Swish 活性化層は、層の入力に対して Swish 関数を適用します。

Swish 演算は $$f(x)=\frac{x}{1+e^{-x}}$$ で表されます。

作成

構文

layer = swishLayer

layer = swishLayer('Name',Name)

説明

layer = swishLayer は Swish 層を作成します。

layer = swishLayer('Name',Name) は、Swish 層を作成し、名前と値のペアの引数を使用して、オプションの Name プロパティを設定します。たとえば、swishLayer('Name','swish1') は、'swish1' という名前の Swish 層を作成します。

プロパティ

Name — 層の名前

'' (既定値) | 文字ベクトル | string スカラー

層の名前。文字ベクトルまたは string スカラーとして指定します。Layer 配列入力の場合、trainnet 関数および dlnetwork 関数は、名前のない層に自動的に名前を割り当てます。

SwishLayer オブジェクトは、このプロパティを文字ベクトルとして格納します。

データ型: char | string

NumInputs — 入力の数

読み取り専用: 1 (既定値)

この プロパティ は読み取り専用です。

層への入力の数。1 として格納されます。この層は単一の入力のみを受け入れます。

データ型: double

InputNames — 入力名

読み取り専用: {'in'} (既定値)

この プロパティ は読み取り専用です。

入力名。{'in'} として格納されます。この層は単一の入力のみを受け入れます。

データ型: cell

NumOutputs — 出力の数

読み取り専用: 1 (既定値)

この プロパティ は読み取り専用です。

層からの出力の数。1 として格納されます。この層には単一の出力のみがあります。

データ型: double

OutputNames — 出力名

読み取り専用: {'out'} (既定値)

この プロパティ は読み取り専用です。

出力名。{'out'} として格納されます。この層には単一の出力のみがあります。

データ型: cell

例

Swish 層の作成

'swish1' という名前の Swish 層を作成します。

layer = swishLayer('Name','swish1')

layer = 
  SwishLayer with properties:

    Name: 'swish1'

   Learnable Parameters
    No properties.

   State Parameters
    No properties.

  Show all properties

Layer 配列に Swish 層を含めます。

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    batchNormalizationLayer
    swishLayer
    maxPooling2dLayer(2,'Stride',2)
    fullyConnectedLayer(10)
    softmaxLayer]

layers = 
  7×1 Layer array with layers:

     1   ''   Image Input           28×28×1 images with 'zerocenter' normalization
     2   ''   2-D Convolution       20 5×5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   Batch Normalization   Batch normalization
     4   ''   Swish                 Swish
     5   ''   2-D Max Pooling       2×2 max pooling with stride [2  2] and padding [0  0  0  0]
     6   ''   Fully Connected       10 fully connected layer
     7   ''   Softmax               softmax

アルゴリズム

Swish 層

Swish 活性化層は、層の入力に対して Swish 関数を適用します。Swish 演算は $$f(x)=\frac{x}{1+e^{-x}}$$ で表されます。Swish 層は入力のサイズを変更しません。

用途によっては、Swish 層などの活性化層を使用することで学習の精度を高めることができます。活性化層は、通常、畳み込み層や正規化層の後ろに置かれます。他にも、異なる処理を実行する非線形活性化層があります。活性化層の一覧については、活性化層を参照してください。

層の入力形式と出力形式

層配列内または層グラフ内の層は、形式を整えた dlarray オブジェクトとして後続の層にデータを渡します。dlarray オブジェクトの形式は文字列で、各文字はデータ内の対応する次元を表します。この形式には次の文字が 1 つ以上含まれています。

• "S" — 空間

• "C" — チャネル

• "B" — バッチ

• "T" — 時間

• "U" — 指定なし

たとえば、4 次元配列として表された 2 次元イメージ データがあり、最初の 2 つの次元がイメージの空間次元に対応し、3 番目の次元がイメージのチャネルに対応し、4 番目の次元がバッチ次元に対応している場合、このイメージ データは "SSCB" (空間、空間、チャネル、バッチ) という形式で記述できます。

SwishLayer オブジェクトは要素単位の演算を適用し、あらゆる形式の入力データをサポートします。層は、次元を追加したり削除したりせず、入力データと同じ形式でデータを出力します。

拡張機能

C/C++ コード生成
MATLAB® Coder™ を使用して C および C++ コードを生成します。

GPU コード生成
GPU Coder™ を使用して NVIDIA® GPU のための CUDA® コードを生成します。

バージョン履歴

R2021a で導入

参考

trainnet | trainingOptions | dlnetwork | reluLayer | batchNormalizationLayer | leakyReluLayer | clippedReluLayer

トピック

• 分類用のシンプルな深層学習ニューラル ネットワークの作成
• 回帰用の畳み込みニューラル ネットワークの学習
• MATLAB による深層学習
• 活性化層の比較
• 深層学習層の一覧