Main Content

このページの内容は最新ではありません。最新版の英語を参照するには、ここをクリックします。

検証

ロバストなネットワークの学習、およびネットワークのロバスト性の検証

深層学習の検証は、深層ニューラル ネットワークの特性を評価するための一連の手法です。たとえば、ネットワークのロバスト特性の検証、ネットワークの出力範囲の計算、敵対的サンプルの検索、分布から外れたデータの検出、および業界標準への準拠の検証を行うことができます。

Deep Learning Toolbox Verification Library サポート パッケージにより、深層学習ネットワークのロバスト特性をテストできます。

  • 関数 verifyNetworkRobustness を使用して、敵対的サンプルに対するネットワークのロバスト性を検証します。指定された下限と上限の間で入力を摂動させたときに、ネットワークの予測クラスが変化しない場合、そのネットワークは敵対的入力に対してロバストです。この関数は、一連の入力範囲について、ネットワークがその入力範囲内で敵対的サンプルに対してロバストであるかどうかをチェックし、verifiedviolatedunproven のいずれかを返します。

  • 関数 estimateNetworkOutputBounds を使用して、入力が指定された下限と上限の間にあるときにネットワークによって返される出力値の範囲を推定します。この関数を使用して、入力の摂動に対するネットワーク予測の感度を推定します。

  • 関数 networkDistributionDiscriminator を使用して、分布の範囲内と範囲外にあるデータを分離する分布ディスクリミネーターを作成します。

関数

estimateNetworkOutputBounds Estimate output bounds of deep learning network (R2022b 以降)
verifyNetworkRobustnessVerify adversarial robustness of deep learning network (R2022b 以降)
networkDistributionDiscriminator Deep learning distribution discriminator (R2023a 以降)
isInNetworkDistributionDetermine whether data is within the distribution of the network (R2023a 以降)
distributionScoresDistribution confidence scores (R2023a 以降)

オブジェクト

BaselineDistributionDiscriminatorBaseline distribution discriminator (R2023a 以降)
EnergyDistributionDiscriminatorEnergy distribution discriminator (R2023a 以降)
ODINDistributionDiscriminatorODIN distribution discriminator (R2023a 以降)
HBOSDistributionDiscriminatorHBOS distribution discriminator (R2023a 以降)

トピック

  • Verify Robustness of Deep Learning Neural Network

    This example shows how to verify the adversarial robustness of a deep learning neural network.

  • 深層学習の可視化手法

    深層学習の可視化手法の説明と比較

  • Out-of-Distribution Detection for Deep Neural Networks

    This example shows how to detect out-of-distribution (OOD) data in deep neural networks.

  • Verify an Airborne Deep Learning System

    This example shows how to verify a deep learning system for airborne applications and is based on the work in [5,6,7], which includes the development and verification activities required by DO-178C [1], ARP4754A [2], and prospective EASA and FAA guidelines [3,4]. To verify that the system complies with aviation industry standards and prospective guidelines, including activities such as requirements tracing, testing and reporting, see Runway Sign Classifier: Certify an Airborne Deep Learning System (DO Qualification Kit). (R2023b 以降)