ディープ ニューラル ネットワークはエンジニアリング システム、特にセーフティ クリティカルなアプリケーションの一部となることから、そのロバスト性と信頼性を確保することは不可欠になっています。Deep Learning Toolbox Verification Library を使用すると、ディープ ニューラル ネットワークの評価とテストを厳密に実施することができます。
Deep Learning Toolbox Verification Library を使用すると、以下を行うことができます。
- 敵対的サンプルに対するロバスト性など、ディープ ニューラル ネットワークの特性の検証
- 入力の摂動に対するネットワーク予測感度の推定
- データを分布内と分布外に分けてランタイム モニタリングを行うための分布ディスクリミネーターの作成
- ネットワーク性能を監視するためのランタイム モニタリング システムの展開
- ケーススタディを通した航空機用ディープラーニング システムの検証
分類のためのディープ ニューラル ネットワークにおけるロバスト性の検証
形式的手法を用いて、敵対的サンプル (ネットワークをミスリードするように設計された、巧妙に改変された入力) に対するネットワークのロバスト性を向上させます。このアプローチでは無限の入力をテストできます。これにより摂動が存在しても予測の整合性が証明され、ネットワークの信頼性と精度の向上を可能にする学習強化の指針となります。
回帰のためのディープ ニューラル ネットワーク出力範囲の推定
形式的手法を用いて、ネットワークで指定した入力範囲に対する出力範囲の下限と上限を推定します。このプロセスにより、指定した入力の摂動に対するネットワークの潜在的な出力への理解を深めることができます。これにより、制御システムや信号処理などのシナリオで、信頼性の高い性能を確実に実現できるようになります。
ランタイム モニタリングを使用した安全なディープラーニング システムの構築
分布外検出を使用してランタイム モニタリングを組み込み、安全なディープラーニング システムを構築します。受信データが学習データと整合しているかどうかを継続的に評価することにより、ネットワークの出力を信頼すべきか、リダイレクトして安全な処理を実行するかの判断に役立ち、システムの安全性と信頼性が強化されます。
ケーススタディ: 航空機用ディープラーニング システムの検証
ケーススタディを通して、DO-178C、ARP4754A、策定見込みの EASA および FAA のガイドラインなど、航空業界の標準と整合する航空機用ディープラーニング システムを検証します。このケーススタディは、ディーブラーニング システムの業界標準およびガイドラインへの完全な準拠に必要となる手順の包括的な全体像を提供します。
制約付きディープラーニング
制約付きディープラーニングは、ドメイン固有の制約を学習プロセスに組み込むことによってディープ ニューラル ネットワークの学習を行う高度な手法です。このような制約をニューラル ネットワークの構成と学習に統合することで、望ましい動作の保証が最優先されるセーフティ クリティカルなシナリオでそうした保証を実現できます。
説明可能性
説明可能性に関する手法を使用して、ネットワークの意思決定プロセスを理解します。D-RISE (Detector Randomized Input Sampling for Explanation) アルゴリズムなどの手法を活用して、オブジェクト検出器のサリエンシーマップを計算し、ネットワークの予測で最も影響を及ぼす入力データ内の特定の領域を可視化します。
サポートパッケージをダウンロード
ご質問はこちらへ
技術エキスパートにご質問ください。
