深層学習の検証

ロバストなイメージネットワークの学習、およびイメージネットワークのロバスト性の検証

深層学習の検証は、深層ニューラルネットワークの特性を評価するための一連の手法です。たとえば、ネットワークのロバスト特性の検証、ネットワークの出力範囲の計算、および敵対的サンプルの検索を行うことができます。

Deep Learning Toolbox™ Verification Library サポートパッケージにより、深層学習ネットワークのロバスト特性をテストできます。このライブラリを使用し、敵対的サンプルに対して深層学習ネットワークがロバストであるかどうかを検証し、一連の入力範囲に対する出力範囲を計算し、分布から外れたデータを検出します。

関数 verifyNetworkRobustness を使用して、敵対的サンプルに対するネットワークのロバスト性を検証します。指定された下限と上限の間で入力を摂動させたときに、ネットワークの予測クラスが変化しない場合、そのネットワークは敵対的入力に対してロバストです。この関数は、一連の入力範囲について、ネットワークがその入力範囲内で敵対的サンプルに対してロバストであるかどうかをチェックし、verified、violated、unproven のいずれかを返します。
関数 estimateNetworkOutputBounds を使用して、入力が指定された下限と上限の間にあるときにネットワークによって返される出力値の範囲を推定します。この関数を使用して、入力の摂動に対するネットワーク予測の感度を推定します。
関数 networkDistributionDiscriminator を使用して、分布の範囲内と範囲外にあるデータを分離する分布ディスクリミネーターを作成します。

関数

`estimateNetworkOutputBounds`	Estimate output bounds of deep learning network (R2022b 以降)
`verifyNetworkRobustness`	Verify adversarial robustness of deep learning network (R2022b 以降)
`networkDistributionDiscriminator`	Deep learning distribution discriminator (R2023a 以降)
`isInNetworkDistribution`	Determine whether data is within the distribution of the network (R2023a 以降)
`distributionScores`	Distribution confidence scores (R2023a 以降)

トピック

Verify Robustness of Deep Learning Neural Network
This example shows how to verify the adversarial robustness of a deep learning neural network.
深層学習の可視化手法
深層学習の可視化手法の説明と比較