Grad CAMのような、画像分類をした際に「画像のどの部分に注目して分類したのか」を示すためにはどのようにしたらよいですか？

Question

1 投票

二つ質問があります。

①深層学習で画像分類をしたものについて、機械がどの部分に着目をして判断を下したのかを知りたいのですが、どのようにしたらよいのでしょうか？

②作成されたディープニューラルネットワークの重みの値を知ることはできないのでしょうか？

よろしくお願いいたします。

0 件のコメント
-2 件の古いコメントを表示 -2 件の古いコメントを非表示

Answer 1

Takuji Fukumoto 2019 年 1 月 17 日

1 投票

①深層学習で画像分類をしたものについて、機械がどの部分に着目をして判断を下したのかを知りたいのですが、どのようにしたらよいのでしょうか？

→通常のCAMのデモですが、よろしければご利用ください。

　SqueezeNetでの例ですが、この考え方はGoogleNet等分岐のあるDAGネットワークで適用できます。

　こちらもご覧ください。。

②作成されたディープニューラルネットワークの重みの値を知ることはできないのでしょうか？

→学習した後のネットワークオブジェクトは各レイヤのパラメータにアクセスできますので、Weight情報等を取り出すせます。

net = alexnet;
net.Layers(2).Weights

Natsuo OKADA 2019 年 1 月 21 日

ダウンロードしました。ありがとうございました。試してみます。

Kenta 2020 年 7 月 7 日

CAMのほかに、LIMEと呼ばれる手法を用いたもの

また、grad-camを用いた例があります。参考になれば幸いです。