自動微分

深層学習の層、ネットワーク、学習ループ、および損失関数のカスタマイズ

ほとんどのタスクでは、組み込み層を使用できます。目的のタスクに必要な組み込み層が用意されていない場合、独自のカスタム層を定義できます。学習可能なパラメーターと状態パラメーターを使用してカスタム層を定義できます。カスタム層を定義した後、その層の有効性、GPU 互換性、定義した勾配の出力の正しさをチェックできます。サポートされている層の一覧については、深層学習層の一覧を参照してください。

タスクに必要な学習オプションが関数 trainingOptions に用意されていない場合、または関数 trainnet がサポートしていない損失関数がある場合は、カスタム学習ループを定義できます。層のネットワークとして指定できないモデルの場合は、モデルを関数として定義できます。詳細については、カスタム学習ループ、損失関数、およびネットワークの定義を参照してください。

よく参照されるトピック

注目の例

Train a Twin Network for Dimensionality Reduction

Train a twin neural network with shared weights to compare handwritten digits using dimensionality reduction.

ライブスクリプトを開く

Train a Twin Neural Network to Compare Images

Train a twin neural network with shared weights to identify similar images of handwritten characters.

ライブスクリプトを開く

アテンションを使用したイメージキャプションの生成

この例では、アテンションを使用したイメージキャプション生成のために深層学習モデルを学習させる方法を説明します。

ライブスクリプトを開く

深層学習を使用した複数ラベルをもつテキストの分類

この例では、複数の独立したラベルをもつテキストデータを分類する方法を説明します。

ライブスクリプトを開く

アテンションを使用した sequence-to-sequence 変換

この例では、アテンションを使用した再帰型 sequence-to-sequence 符号化器-復号化器モデルを用いて数字の文字列をローマ数字に変換する方法を説明します。

ライブスクリプトを開く

カスタム学習ループを使用したネットワークの並列学習

この例では、ネットワークに並列学習させるためのカスタム学習ループを設定する方法を説明します。

ライブスクリプトを開く

変分自己符号化器 (VAE) の学習によるイメージ生成

この例では、深層学習変分自己符号化器 (VAE) に学習させ、イメージを生成する方法を説明します。

ライブスクリプトを開く

スナップショットアンサンブルのための周期的な学習率を使用したネットワークの学習

この例では、テスト精度の向上のために周期的な学習率スケジュールとスナップショットのアンサンブルを使用して、オブジェクトのイメージを分類するようにネットワークに学習させる方法を示します。この例では、学習率スケジュールに余弦関数を使用し、学習中にネットワークのスナップショットを取得してモデルアンサンブルを作成し、L2 ノルム正則化 (重み減衰) を学習損失に追加する方法を学習します。

ライブスクリプトを開く