1-classSVM の異常スコアについて

評価用のサンプルプログラム　mynutCNNfeature_alexnet

の中で、1-classSVMにより異常スコアを計算しているのですが

この異常度を表すスコアは、どういう計算をして導出しているものなのか教えていただけませんでしょうか？

直接説明が難しければ、参考文献などでも結構です。よろしくお願いいたします。

Answer 1

[Hiro Yoshino]

Kentaさんのおススメのカーネル多変量解析は非常に良い本です！ 流石です。

カーネル法を理解している、representer定理とか分かるという場合なら、当該書籍の該当ポイントを読めば「なるほどね」ということになりますが、最初から読み始めてP107のone-class svmに到達するのはシンドイかなと思い、概要だけ書きます。

まず、SVMは高次元特徴量空間における、線形識別器です。つまり

を考えます。(one-class) svmは元のベクトルから、無限次元の高次元特徴量を作成して、高次元特徴空間上に写像します。この時の非線形写像関数ϕは明には分からないが、その内積は分かるというのが、いわゆるカーネルトリックです。なお、bold体はベクトルを表しています。

この時、を正常データとします。異常データ%を設定していると思うので、異常データに対してはとなります。

高次元特徴空間でを分離超平面とします。この超平面からの距離をスコアとしています。

特徴ベクトルは無限次元ですが、同じく無次元のと内積を取ることで、スカラーになるというのがポイントです。

詳細はドキュメンテーションにも書いてあります

[howahowa46]

丁寧な説明ありがとうございます。分離超平面からの距離というところで、少しイメージが沸きました。

該当書籍については購入してその部分を読んでみたいと思います。

また、ドキュメンテーションの紹介もありがとうございます。

[Kenta]

Hiroさま、補足ありがとうございます。Hiroさまの上で述べられた「概要」も非常にわかりやすく、私も知識を整理できる良い機会になりました。個人的にはp96の、超平面からの距離を最大化するという幾何的な解釈とSVMの損失関数と正則化項を最小化することが本質的に等価であることの説明が非常にわかりやすいと思いました。

[Hiro Yoshino]

ありがとうございます。最近は計算機パワーを活用したブラックボックス機械学習の時代なので、こういう話はあまり流行りませんが、非常に興味深い分野だと思います。Kentaさんはさすがですねー！

Answer 2

[Kenta]

こんにちは、個人的には（one class） svmの勉強だとカーネル多変量解析がおすすめです！

[howahowa46]

ありがとうございます。購入を検討します。

門外漢なのですが、SVMの文献をいくつか読んでみて、カーネル法について勉強する必要があると感じました。