可視化と解釈可能性

学習の進行状況のプロット、精度の評価、予測の説明、ネットワークによって学習された特徴の可視化

ネットワークの精度と損失の組み込みプロットを使用して進行状況を監視します。Grad-CAM、オクルージョン感度、LIME、Deep Dream などの可視化手法を使用して、学習済みネットワークを調査します。

深層学習の可視化手法

Flow chart showing methods used to visualize the predictions made by a trained network. The visualization methods can be used for verification, debugging, learning, detecting bias, and model selection.

深層学習の可視化手法

アプリ

ディープネットワークデザイナー

深層学習ネットワークの設計、可視化、および学習

オブジェクト

trainingProgressMonitor Monitor and plot training progress for deep learning custom training loops (R2022b 以降)

関数

すべて展開する

ネットワーク

`analyzeNetwork`	深層学習ネットワークアーキテクチャの解析
`plot`	ニューラルネットワークアーキテクチャのプロット

学習の進行状況

`updateInfo`	Update information values for custom training loops (R2022b 以降)
`recordMetrics`	Record metric values for custom training loops (R2022b 以降)
`groupSubPlot`	Group metrics in training plot (R2022b 以降)

メトリクス

`accuracyMetric`	Deep learning accuracy metric (R2023b 以降)
`aucMetric`	Deep learning area under ROC curve (AUC) metric (R2023b 以降)
`fScoreMetric`	Deep learning F-score metric (R2023b 以降)
`precisionMetric`	Deep learning precision metric (R2023b 以降)
`recallMetric`	Deep learning recall metric (R2023b 以降)
`rmseMetric`	Deep learning root mean squared error metric (R2023b 以降)

予測

`activations`	深層学習ネットワーク層の活性化の計算
`confusionchart`	分類問題用の混同行列チャートの作成
`sortClasses`	混同行列チャートのクラスの並べ替え
`rocmetrics`	Receiver operating characteristic (ROC) curve and performance metrics for binary and multiclass classifiers (R2022b 以降)
`addMetrics`	Compute additional classification performance metrics (R2022b 以降)
`average`	Compute performance metrics for average receiver operating characteristic (ROC) curve in multiclass problem (R2022b 以降)
`plot`	Plot receiver operating characteristic (ROC) curves and other performance curves (R2022b 以降)

解釈可能性

`imageLIME`	Explain network predictions using LIME (R2020b 以降)
`occlusionSensitivity`	Explain network predictions by occluding the inputs (R2019b 以降)
`deepDreamImage`	Deep Dream を使用したネットワークの特徴の可視化
`gradCAM`	Grad-CAM を使用したネットワーク予測の説明 (R2021a 以降)

プロパティ

ConfusionMatrixChart Properties	Confusion matrix chart appearance and behavior
ROCCurve Properties	Receiver operating characteristic (ROC) curve appearance and behavior (R2022b 以降)

トピック

学習の進行状況とパフォーマンス

深層学習における学習の進行状況の監視
この例では、深層学習ネットワークの学習プロセスを監視する方法を示します。
Monitor Custom Training Loop Progress
Track and plot custom training loop progress.
GAN の学習過程の監視と一般的な故障モードの識別
GAN の学習で最も一般的な故障モードを診断し修復する方法を学びます。
ROC Curve and Performance Metrics
Use rocmetrics to examine the performance of a classification algorithm on a test data set.
Compare Deep Learning Models Using ROC Curves
This example shows how to use receiver operating characteristic (ROC) curves to compare the performance of deep learning models.
Define Custom Metric Function
Define custom deep learning metrics using functions.
Define Custom Deep Learning Metric Object
Learn how to define custom deep learning metrics using custom classes.
Define Custom F-Beta Score Metric Object
This example shows how to define a generic F-beta score metric.

解釈可能性

Explore Network Predictions Using Deep Learning Visualization Techniques
This example shows how to investigate network predictions using deep learning visualization techniques.
オクルージョンを使用したネットワーク予測の理解
この例では、オクルージョン感度マップを使用して、深層ニューラルネットワークによる分類の判定理由を理解する方法を説明します。
LIME を使用した表形式データに関する深層ネットワークの予測の解釈
この例では、Locally Interpretable Model-agnostic Explanations (LIME) 技術を使用し、表形式データの分類を行う深層ニューラルネットワークの予測を解釈する方法を説明します。
Investigate Spectrogram Classifications Using LIME
This example shows how to use locally interpretable model-agnostic explanations (LIME) to investigate the robustness of a deep convolutional neural network trained to classify spectrograms. LIME is a technique for visualizing which parts of an observation contribute to the classification decision of a network. This example uses the imageLIME function to understand which features in the spectrogram data are most important for classification.
勾配属性の手法を使用した分類判定の調査
この例では、勾配属性マップを使用して、深層ニューラルネットワークによって分類の判定が行われる際にイメージのどの部分が最も重要かを調査する方法を説明します。
クラス活性化マッピングを使用したネットワークの予測の調査
この例では、クラス活性化マッピング (CAM) を使用して、深層畳み込みニューラルネットワークによるイメージ分類の予測を調査し説明する方法を示します。
最大および最小の活性化イメージを使用したイメージ分類の可視化
この例では、データセットを使用して何が深層ニューラルネットワークのチャネルを活性化するか発見する方法を説明します。
tsne を使用したネットワークの動作の表示
この例では、関数 tsne を使用して学習済みネットワークの活性化を表示する方法を説明します。
LSTM ネットワークの活性化の可視化
この例では、活性化を抽出し、LSTM ネットワークによって学習された特徴を調査して可視化する方法を説明します。
畳み込みニューラルネットワークの活性化の可視化
この例では、畳み込みニューラルネットワークにイメージを供給して、ネットワークのさまざまな層の活性化を表示する方法を説明します。
畳み込みニューラルネットワークの特徴の可視化
この例では、畳み込みニューラルネットワークによって学習された特徴を可視化する方法を説明します。
深層学習の可視化手法
深層学習の可視化手法の説明と比較

注目の例

勾配分布のプロットによる深層ニューラルネットワークの勾配消失の検出

この例では、深層ニューラルネットワークの学習中に勾配消失を監視する方法を説明します。

ライブスクリプトを開く

Grad-CAM での深層学習による判定の理由の解明

この例では、勾配加重クラス活性化マッピング (Grad-CAM) 手法を使用して、深層学習ネットワークによってその分類の判定が行われた理由を理解する方法を説明します。Selvaraju と共著者 [1] によって考案された Grad-CAM では、ネットワークにより決定する畳み込みの特徴についての分類スコアの勾配を使用して、イメージのどの部分が分類に最も重要であるかを理解します。この例では、イメージに GoogLeNet の事前学習済みのネットワークを使用します。

ライブスクリプトを開く

Interpret Deep Learning Time-Series Classifications Using Grad-CAM

Use the gradient-weighted class activation mapping (Grad-CAM) technique to understand the classification decisions of a 1-D convolutional neural network trained on time-series data.

ライブスクリプトを開く

LIME を使用したネットワーク予測の理解

この例では、Locally Interpretable Model-agnostic Explanations (LIME) を使用し、深層ニューラルネットワークによる分類の判定理由を解釈する方法を説明します。

ライブスクリプトを開く

Grad-CAM を使用したセマンティックセグメンテーションネットワークの調査

この例では、Grad-CAM を使用して事前学習済みのセマンティックセグメンテーションネットワークの予測を調査する方法を説明します。

ライブスクリプトを開く

Investigate Audio Classifications Using Deep Learning Interpretability Techniques

Use interpretability techniques to investigate the predictions of a deep neural network trained to classify audio data.

ライブスクリプトを開く

GoogLeNet を使用した Deep Dream イメージ

この例では、事前学習済みの畳み込みニューラルネットワーク GoogLeNet で deepDreamImage を使用してイメージを生成する方法を説明します。

ライブスクリプトを開く

Detect Issues During Deep Neural Network Training

Automatically detect issues while training a deep neural network.

ライブスクリプトを開く

Explore Quantized Semantic Segmentation Network Using Grad-CAM

Compare the predictions of a quantized semantic segmentation network to the original network using the gradient-weighted class activation mapping (Grad-CAM) interpretability method.

ライブスクリプトを開く

可視化と解釈可能性

アプリ

オブジェクト

関数

ネットワーク

学習の進行状況

メトリクス

予測

解釈可能性

プロパティ

トピック

学習の進行状況とパフォーマンス

解釈可能性

注目の例

勾配分布のプロットによる深層ニューラル ネットワークの勾配消失の検出

Grad-CAM での深層学習による判定の理由の解明

Interpret Deep Learning Time-Series Classifications Using Grad-CAM

LIME を使用したネットワーク予測の理解

Grad-CAM を使用したセマンティック セグメンテーション ネットワークの調査

Investigate Audio Classifications Using Deep Learning Interpretability Techniques

GoogLeNet を使用した Deep Dream イメージ

Detect Issues During Deep Neural Network Training

Explore Quantized Semantic Segmentation Network Using Grad-CAM

勾配分布のプロットによる深層ニューラルネットワークの勾配消失の検出

Grad-CAM を使用したセマンティックセグメンテーションネットワークの調査