検証

ロバストなネットワークの学習、およびネットワークのロバスト性の検証

深層学習の検証は、深層ニューラルネットワークの特性を評価するための一連の手法です。たとえば、ネットワークのロバスト特性の検証、ネットワークの出力範囲の計算、敵対的サンプルの検索、分布から外れたデータの検出、および業界標準への準拠の検証を行うことができます。

Deep Learning Toolbox Verification Library サポートパッケージにより、深層学習ネットワークのロバスト特性をテストできます。

関数 verifyNetworkRobustness を使用して、敵対的サンプルに対するネットワークのロバスト性を検証します。指定された下限と上限の間で入力を摂動させたときに、ネットワークの予測クラスが変化しない場合、そのネットワークは敵対的入力に対してロバストです。この関数は、一連の入力範囲について、ネットワークがその入力範囲内で敵対的サンプルに対してロバストであるかどうかをチェックし、verified、violated、unproven のいずれかを返します。
関数 estimateNetworkOutputBounds を使用して、入力が指定された下限と上限の間にあるときにネットワークによって返される出力値の範囲を推定します。この関数を使用して、入力の摂動に対するネットワーク予測の感度を推定します。
関数 networkDistributionDiscriminator を使用して、分布の範囲内と範囲外にあるデータを分離する分布ディスクリミネーターを作成します。

関数

`estimateNetworkOutputBounds`	Estimate output bounds of deep learning network (R2022b 以降)
`verifyNetworkRobustness`	Verify adversarial robustness of deep learning network (R2022b 以降)
`networkDistributionDiscriminator`	Deep learning distribution discriminator (R2023a 以降)
`isInNetworkDistribution`	Determine whether data is within the distribution of the network (R2023a 以降)
`distributionScores`	Distribution confidence scores (R2023a 以降)
`drise`	Explain object detection network predictions using D-RISE (R2024a 以降)

オブジェクト

`BaselineDistributionDiscriminator`	Baseline distribution discriminator (R2023a 以降)
`EnergyDistributionDiscriminator`	Energy distribution discriminator (R2023a 以降)
`ODINDistributionDiscriminator`	ODIN distribution discriminator (R2023a 以降)
`HBOSDistributionDiscriminator`	HBOS distribution discriminator (R2023a 以降)

トピック

Verification of Neural Networks
Learn about verification of neural networks using Deep Learning Toolbox™ Verification Library.
Verify Robustness of Deep Learning Neural Network
This example shows how to verify the adversarial robustness of a deep learning neural network.
Verify Robustness of ONNX Network
This example shows how to verify the adversarial robustness of an imported ONNX™ deep neural network. (R2024a 以降)
深層学習の可視化手法
深層学習の可視化手法の説明と比較
Out-of-Distribution Detection for Deep Neural Networks
This example shows how to detect out-of-distribution (OOD) data in deep neural networks.
Verify an Airborne Deep Learning System
This example shows how to verify a deep learning system for airborne applications and is based on the work in [5,6,7], which includes the development and verification activities required by DO-178C [1], ARP4754A [2], and prospective EASA and FAA guidelines [3,4]. To verify that the system complies with aviation industry standards and prospective guidelines, including activities such as requirements tracing, testing and reporting, see Runway Sign Classifier: Certify an Airborne Deep Learning System (DO Qualification Kit). (R2023b 以降)

注目の例

Generate Untargeted and Targeted Adversarial Examples for Image Classification

Use the fast gradient sign method (FGSM) and the basic iterative method (BIM) to generate adversarial examples for a pretrained neural network.

ライブスクリプトを開く

Train Image Classification Network Robust to Adversarial Examples

Train a neural network that is robust to adversarial examples using fast gradient sign method (FGSM) adversarial training.

ライブスクリプトを開く

Train Robust Deep Learning Network with Jacobian Regularization

Train a neural network that is robust to adversarial examples using a Jacobian regularization scheme.

ライブスクリプトを開く

Generate Adversarial Examples for Semantic Segmentation

Generate adversarial examples for a semantic segmentation network using the basic iterative method (BIM).

ライブスクリプトを開く

Grad-CAM を使用したセマンティックセグメンテーションネットワークの調査

この例では、Grad-CAM を使用して事前学習済みのセマンティックセグメンテーションネットワークの予測を調査する方法を説明します。

ライブスクリプトを開く

LIME を使用した表形式データに関する深層ネットワークの予測の解釈

この例では、Locally Interpretable Model-agnostic Explanations (LIME) 技術を使用し、表形式データの分類を行う深層ニューラルネットワークの予測を解釈する方法を説明します。LIME 技術を使用して、ネットワークによる分類の判定に最も重要な予測子を把握できます。

ライブスクリプトを開く