Main Content

このページの翻訳は最新ではありません。ここをクリックして、英語の最新版を参照してください。

深層学習のカスタム学習ループ

深層学習の学習ループおよび損失関数のカスタマイズ

タスクに必要な学習オプションが関数 trainingOptions に用意されていない場合、または必要な損失関数をカスタム出力層がサポートしていない場合、カスタム学習ループを定義できます。層グラフを使用して作成できないネットワークの場合、カスタム ネットワークを関数として定義できます。詳細については、カスタム学習ループ、損失関数、およびネットワークの定義を参照してください。

関数

すべて展開する

dlnetworkDeep learning network for custom training loops
forwardCompute deep learning network output for training
predictCompute deep learning network output for inference
adamupdateUpdate parameters using adaptive moment estimation (Adam)
rmspropupdate Update parameters using root mean squared propagation (RMSProp)
sgdmupdate Update parameters using stochastic gradient descent with momentum (SGDM)
dlupdate Update parameters using custom function
minibatchqueueCreate mini-batches for deep learning
onehotencodeEncode data labels into one-hot vectors
onehotdecodeDecode probability vectors into class labels
dlarrayDeep learning array for custom training loops
dlgradientCompute gradients for custom training loops using automatic differentiation
dlfevalEvaluate deep learning model for custom training loops
dimsDimension labels of dlarray
finddimFind dimensions with specified label
stripdimsRemove dlarray labels
extractdataExtract data from dlarray
isdlarrayDetermine whether input is dlarray
functionToLayerGraphConvert deep learning model function to a layer graph
dlconvDeep learning convolution
dltranspconvDeep learning transposed convolution
lstmLong short-term memory
gruGated recurrent unit
embedEmbed discrete data
fullyconnectSum all weighted input data and apply a bias
reluApply rectified linear unit activation
leakyreluApply leaky rectified linear unit activation
batchnormNormalize across all observations for each channel independently
crosschannelnormCross channel square-normalize using local responses
groupnormNormalize across grouped subsets of channels for each observation independently
avgpoolPool data to average values over spatial dimensions
maxpoolPool data to maximum value
maxunpoolUnpool the output of a maximum pooling operation
softmaxApply softmax activation to channel dimension
crossentropyCross-entropy loss for classification tasks
sigmoidシグモイド活性化の適用
mseHalf mean squared error

トピック

カスタム学習ループ

MATLAB による深層学習モデルの学習

MATLAB® で深層学習モデルを学習させる方法を学習する。

カスタム学習ループ、損失関数、およびネットワークの定義

自動微分を使用して深層学習の学習ループ、損失関数、およびネットワークを定義する方法を学びます。

カスタム学習ループを使用したネットワークの学習

この例では、カスタム学習率スケジュールで手書きの数字を分類するネットワークに学習させる方法を示します。

カスタム学習ループでの学習オプションの指定

カスタム学習ループで一般的な学習オプションを指定する方法を学びます。

カスタム学習ループのモデル勾配関数の定義

カスタム学習ループのモデル勾配関数を定義する方法を学ぶ。

カスタム学習ループでのバッチ正規化統計量の更新

この例では、カスタム学習ループでネットワークの状態を更新する方法を示します。

dlnetwork オブジェクトを使用した予測の実行

この例では、データをミニバッチに分割することにより、dlnetwork オブジェクトを使用して予測を行う方法を示します。

イメージ データおよび特徴データにおけるネットワークの学習

この例では、イメージと特徴の両方の入力データを使用して、手書きの数字を分類するネットワークの学習を行う方法について説明します。

複数の出力をもつネットワークの学習

この例では、手書きの数字のラベルと回転角度の両方を予測する、複数の出力をもつ深層学習ネットワークに学習させる方法を説明します。

モデル関数

モデル関数を使用したネットワークの学習

この例では、層グラフまたは dlnetwork ではなく関数を使用して深層学習ネットワークを作成し、学習させる方法を説明します。

モデル関数を使用したバッチ正規化統計量の更新

この例では、関数として定義されたネットワークにおいて、ネットワークの状態を更新する方法を示します。

モデル関数を使用した予測の実行

この例では、データをミニバッチに分割することにより、モデル関数を使用して予測を行う方法を示します。

モデル関数の学習可能なパラメーターの初期化

モデル関数を使用して、カスタム学習ループの学習可能なパラメーターを初期化する方法を学ぶ。

自動微分

dlarray をサポートする関数の一覧

dlarray オブジェクトをサポートする関数の一覧を表示します。

自動微分の背景

自動微分の機能を学びます。

Deep Learning Toolbox での自動微分の使用

深層学習での自動微分の使用方法を示します。

注目の例

敵対的生成ネットワーク (GAN) の学習

敵対的生成ネットワーク (GAN) の学習

この例では、敵対的生成ネットワーク (GAN) に学習させてイメージを生成する方法を説明します。

ライブ スクリプトを開く
条件付き敵対的生成ネットワーク (CGAN) の学習

条件付き敵対的生成ネットワーク (CGAN) の学習

この例では、条件付き敵対的生成ネットワーク (CGAN) に学習させてイメージを生成する方法を説明します。

ライブ スクリプトを開く
高速スタイル転送ネットワークの学習

高速スタイル転送ネットワークの学習

この例では、あるイメージのスタイルを転送して第 2 のイメージにするネットワークの学習方法を示します。これは、[1] で定義されるアーキテクチャに基づいています。

ライブ スクリプトを開く
カスタム学習ループを使用したネットワークの学習

カスタム学習ループを使用したネットワークの学習

この例では、カスタム学習率スケジュールで手書きの数字を分類するネットワークに学習させる方法を示します。

ライブ スクリプトを開く
モデル関数を使用したネットワークの学習

モデル関数を使用したネットワークの学習

この例では、層グラフまたは dlnetwork ではなく関数を使用して深層学習ネットワークを作成し、学習させる方法を説明します。関数の使用には、幅広いネットワークを記述する柔軟性が得られるという利点があります。欠点は、より多くのステップを実行し、データを慎重に準備しなければならないことです。この例では、手書き数字のイメージと、数字を分類して垂直位置からの各数字の角度を判定する双対目的関数を使用します。

ライブ スクリプトを開く
次元削減のためのシャム ネットワークの学習

次元削減のためのシャム ネットワークの学習

この例では、次元削減を使用して手書きの数字を比較するシャム ネットワークの学習方法を説明します。

ライブ スクリプトを開く
シャム ネットワークの学習とイメージの比較

シャム ネットワークの学習とイメージの比較

この例では、シャム ネットワークに学習させて類似した手書き文字のイメージを特定する方法を説明します。

ライブ スクリプトを開く
アテンションを使用したイメージ キャプションの生成

アテンションを使用したイメージ キャプションの生成

この例では、アテンションを使用したイメージ キャプション生成のために深層学習モデルを学習させる方法を説明します。

ライブ スクリプトを開く
深層学習を使用した複数ラベルをもつテキストの分類

深層学習を使用した複数ラベルをもつテキストの分類

この例では、複数の独立したラベルをもつテキスト データを分類する方法を説明します。

ライブ スクリプトを開く
アテンションを使用した sequence-to-sequence 変換

アテンションを使用した sequence-to-sequence 変換

この例では、アテンションを使用した再帰型 sequence-to-sequence 符号化器-復号化器モデルを用いて数字の文字列をローマ数字に変換する方法を説明します。

ライブ スクリプトを開く
1 次元畳み込みを使用した sequence-to-sequence 分類

1 次元畳み込みを使用した sequence-to-sequence 分類

この例では、一般的な時間的畳み込みネットワーク (TCN) を使用してシーケンス データの各タイム ステップを分類する方法を説明します。

ライブ スクリプトを開く
カスタム学習ループを使用したネットワークの並列学習

カスタム学習ループを使用したネットワークの並列学習

この例では、ネットワークに並列学習させるためのカスタム学習ループを設定する方法を説明します。この例では、並列ワーカーによりミニバッチの一部で学習が実行されます。GPU がある場合、GPU 上で学習が行われます。学習中、DataQueue オブジェクトによって、学習の進行状況の情報が MATLAB クライアントに送り返されます。

ライブ スクリプトを開く
変分自己符号化器 (VAE) の学習によるイメージ生成

変分自己符号化器 (VAE) の学習によるイメージ生成

この例では、MATLAB で変分自己符号化器 (VAE) を作成して数字のイメージを生成する方法を説明します。VAE は、手書きの数字を MNIST データセットのスタイルで生成します。

ライブ スクリプトを開く
スナップショット アンサンブルのための周期的な学習率を使用したネットワークの学習

スナップショット アンサンブルのための周期的な学習率を使用したネットワークの学習

この例では、テスト精度の向上のために周期的な学習率スケジュールとスナップショットのアンサンブルを使用して、オブジェクトのイメージを分類するようにネットワークに学習させる方法を示します。この例では、学習率スケジュールに余弦関数を使用し、学習中にネットワークのスナップショットを取得してモデル アンサンブルを作成し、L2 ノルム正則化 (重み減衰) を学習損失に追加する方法を学習します。

ライブ スクリプトを開く

Deep Learning Toolbox ドキュメンテーション

サポート

MATLABで始めるディープラーニング

MATLABで始めるディープラーニング

ebookをダウンロードする