深層ニューラルネットワークの可視化と検証

ネットワークの動作の可視化、予測の説明、およびロバスト性の検証

学習中または学習後に深層ネットワークを可視化します。学習の進行状況を監視するには、ネットワークの精度と損失に関する組み込みのプロットを使用するか、カスタムメトリクスを指定します。Grad-CAM、オクルージョン感度、LIME、Deep Dream などの可視化手法および解釈可能性手法を使用して、学習済みネットワークを調査します。

ディープネットワークデザイナー アプリを使用して、深層学習ネットワークの構築、可視化、および学習を対話的に行うことができます。その後、ネットワークの構築と学習を再作成するコードを生成し、学習済みネットワークを Simulink^® にエクスポートすることができます。

深層学習検証手法を使用して、深層ニューラルネットワークの特性を評価します。たとえば、ネットワークのロバスト特性の検証、ネットワークの出力範囲の計算、敵対的サンプルの検索、および分布から外れたデータの検出を行うことができます。

注目の例

Explore Network Predictions Using Deep Learning Visualization Techniques

Investigate network predictions using deep learning visualization techniques.

ライブスクリプトを開く

Grad-CAM での深層学習による判定の理由の解明

この例では、勾配加重クラス活性化マッピング (Grad-CAM) 手法を使用して、深層学習ネットワークによってその分類の判定が行われた理由を理解する方法を説明します。Selvaraju と共著者 [1] によって考案された Grad-CAM では、ネットワークにより決定する畳み込みの特徴についての分類スコアの勾配を使用して、イメージのどの部分が分類に最も重要であるかを理解します。この例では、イメージに GoogLeNet の事前学習済みのネットワークを使用します。

ライブスクリプトを開く

Interpret Deep Learning Time-Series Classifications Using Grad-CAM

Use the gradient-weighted class activation mapping (Grad-CAM) technique to understand the classification decisions of a 1-D convolutional neural network trained on time-series data.

ライブスクリプトを開く