ニューラルネットワーク

Q: ニューラル ネットワークとは何ですか？

ニューラル ネットワークは、人間の脳を思わせる層状の構造で相互に接続されたノード（ニューロン）を用いて学習する適応システムです。入力を複数の抽象化レイヤーに分解することで、パターン認識、データの分類、将来の事象の予測などを行うように訓練できます。

Q: ニューラル ネットワークは何に使われますか？

ニューラル ネットワークは、音声、視覚、制御システムにおけるパターン認識や分類タスクに用いられ、顔認識、テキスト翻訳、音声認識、車線分類、交通標識認識などの応用が含まれます。

Q: ニューラル ネットワークはどのようにデータから学習しますか？

ニューラル ネットワークは、訓練中に指定された学習則に従ってニューロン間の接続の重みを自動的に調整することで学習します。通常は予測誤差を最小化するように重みを最適化し、所望のタスクを正しく実行できるようになるまで学習が続けられます。

Q: 浅いニューラル ネットワークとディープニューラル ネットワークの違いは何ですか？

浅いニューラル ネットワークは接続されたニューロンが2層または3層しかありませんが、ディープニューラル ネットワークは多数の層（場合によっては数百層）を持ち、手動での特徴抽出を不要にするディープラーニングの用途で使われます。

Q: 主なニューラル ネットワークの種類は何ですか？

一般的な代表例は、入力層、隠れ層、出力層を持つフィードフォワードニューラル ネットワーク、画像処理向けの畳み込みニューラル ネットワーク (CNN)、時系列やテキストなどの順序データ向けのリカレントニューラル ネットワーク（RNN）です。

Q: 畳み込みニューラル ネットワーク (CNN)とは何ですか？

畳み込みニューラル ネットワークは画像処理に広く適用される深層ニューラル ネットワークのアーキテクチャで、入力上でウィンドウを移動させる畳み込み層と重みを共有するノードによって構成され、画像入力を特徴マップへ抽象化します。

Q: リカレントニューラル ネットワーク（RNN）とは何ですか？

リカレントニューラル ネットワーク（RNN）はフィードバックループを持つニューラル ネットワークアーキテクチャで、時系列、センサー、テキストデータの時間的／順序的依存性をモデル化します。最も一般的なタイプはLSTM (長短期記憶)です。

ニューラルネットワークとは

ニューラルネットワーク (人工ニューラルネットワークまたは ANN とも呼ばれます) は、人間の脳に似た層構造内で相互接続されたノードまたはニューロンを使用して学習を行う適応システムです。ニューラルネットワークはデータから学習できるため、パターンを認識し、データを分類し、将来のイベントを予測するように学習させることができます。ニューラルネットワークは、入力を複数の抽象化の層に分類します。人間の脳と同様に、多くの例を用いて学習させることにより、音声や画像のパターンを認識できるようになります。ニューラルネットワークの動作は、個々の要素の接続方法と、その接続の強度または重みによって定義されます。これらの重みは、人工ニューラルネットワークが目的のタスクを正しく実行するまで、指定された学習ルールに応じて学習中に自動調整されます。

ニューラルネットワークの用途

ニューラルネットワークは、人間の脳におけるニューロン間の信号伝達の仕組みにヒントを得た機械学習手法の一種です。ニューラルネットワークは非線形関係のモデル化に特に適しており、一般的にパターン認識の実行や、音声、ビジョン、制御システムにおけるオブジェクトや信号の分類に使用されます。

ニューラルネットワークの中でも、特にディープニューラルネットワークは、顔認識、テキスト翻訳、音声認識など、複雑な識別の用途において優れた性能を発揮することが広く知られるようになりました。こうした手法は、車線分類や交通標識認識など、先進運転支援システムやそのタスクの技術革新を推進するための重要な技術となっています。

ニューラルネットワークの例

機械学習アプリケーションにおけるニューラルネットワークの使用例は、以下をご参照ください。

ニューラルネットワークの仕組み

生物の神経系にヒントを得たニューラルネットワークでは、並列に動作する単純な要素を用いた複数の処理層が結合されています。ネットワークは、入力層、1 つ以上の隠れ層、および出力層で構成されています。各層には複数のノードまたはニューロンがあり、各層のノードは、前の層のすべてのノードの出力を入力として使用し、すべてのニューロンが異なる層を通じて相互接続されています。通常、各ニューロンには、学習のプロセスで調整された重みが割り当てられます。重みの増減により、そのニューロンの信号の強度は変化します。

入力層、2 つの隠れ層、および出力層で構成されるニューラルネットワークアーキテクチャ。 — 一般的なニューラルネットワークアーキテクチャ。

他の機械学習アルゴリズムと同様に、ニューラルネットワークは、分類タスクまたは回帰タスクに使用できます。モデルのパラメーターは、学習データでの学習を通じてニューラルネットワークに重み付けすることにより (通常、予測誤差を最小化するよう重みを最適化することにより) 設定されます。

ニューラルネットワークの種類

最初の最も単純なニューラルネットワークは、1958 年に Frank Rosenblatt 氏が発表したパーセプトロンです。これは、単一のニューロンで構成され、基本的にはシグモイド活性化関数を使用した線形回帰モデルです。その後、より複雑なニューラルネットワークの研究が進められた結果、何百もの層を含む現在のディープネットワークに至っています。

接続されたニューロンの層が 2、3 層しかないニューラルネットワークが「浅いニューラルネットワーク」とも呼ばれるのに対して、ディープラーニングは多くの層を持つニューラルネットワークを意味します。以前は画像や信号処理への機械学習の適用は困難なものでしたが、画像からの特徴抽出が不要になったことで、ディープラーニングが普及しました。画像処理アプリケーションでは特徴抽出を省略できますが、現在でも、モデルの精度を向上させるために、特徴抽出が何らかの形で信号処理タスクに広く適用されています。

工学的な用途で使用されるニューラルネットワークには、一般的に以下の 3 種類があります。

フィードフォワードニューラルネットワーク: 入力層、1 つ以上の隠れ層、および出力層で構成されています (一般的な浅いニューラルネットワーク)。
畳み込みニューラルネットワーク (CNN): ディープニューラルネットワークアーキテクチャは、画像処理に幅広く適用され、重みを共有するノードを使用して入力に対してウィンドウを移動させる畳み込み層によって特性評価され、(通常は画像の) 入力を特徴マップに抽象化します。SqueezeNet や GoogleNet などの事前学習済み CNN ネットワークが利用できます。
リカレントニューラルネットワーク (RNN): 時系列データ、センサーデータ、テキストデータなどの、入力の逐次依存関係をモデル化するフィードバックループを持つニューラルネットワークアーキテクチャ。RNN の中では、長・短期記憶 (LSTM) ネットワークが最も普及しています。

CNN の仕組み

この短いビデオでは、層、活性化、分類など、CNN の詳細について説明します。

ディープラーニングに関する詳細:

ディープニューラルネットワーク (4 ビデオ)

MATLAB を使用したニューラルネットワークの作成方法

MATLAB^® を Deep Learning Toolbox™ および Statistics and Machine Learning Toolbox™ とともに使用すると、バーチャルセンサーモデリング、コンピュータービジョン、自動運転などのアプリケーション用に深いニューラルネットワークと浅いニューラルネットワークを作成できます。

エキスパートでなくても、わずか数行のコードで、MATLAB でニューラルネットワークを作成できます。すぐに作成を始めることができ、ニューラルネットワークモデルを学習および可視化して、ニューラルネットワークを既存のシステムに統合し、それらをサーバー、エンタープライズシステム、クラスター、クラウド、組み込みデバイスに展開することができます。

分類学習器アプリを使用した決定木の学習

ニューラルネットワークを使用したシステム構築の一般的なワークフロー

AI アプリケーション、特にニューラルネットワークの開発は、一般的に以下の手順で行われます。

ニューラルネットワークを AI システムに統合するためのワークフロー: データの準備、AI モデリング、シミュレーションとテスト、および展開。

データの準備
- ディープニューラルネットワークの学習を行うには、より多くのラベル付き学習データが必要になります。画像、動画、信号などのラベル付けを行うラベラーアプリを使用することで、このプロセスを促進できます。
- 特に、実際のシステムからデータを収集することが現実的でない場合 (故障状態など) は、シミュレーションを使用して学習データを生成します。
- データを拡張して学習データの変動性を表現します。
AI モデリング
- Statistics and Machine Learning Toolbox の分類学習器と回帰学習器で対話的に浅いニューラルネットワークの学習を行うか、コマンドライン関数を使用します。これは、浅いニューラルネットワークのパフォーマンスを決定木や SVM などの他の従来の機械学習アルゴリズムと比較する場合や、使用可能なラベル付き学習データが制限されている場合に推奨されます。
- 時系列モデラーまたは Deep Learning Toolbox のコマンドライン関数を使用して、(浅いまたは深い) ニューラルネットワークを対話的に設計して学習を行います。この機能は、特にディープニューラルネットワークの場合や、ネットワークアーキテクチャとソルバーをカスタマイズする柔軟性が必要な場合に適しています。
シミュレーションとテスト
- Simulink^® モデルにブロックとしてニューラルネットワークを統合することで、大規模システムとの統合、テスト、およびさまざまな種類のハードウェアへの展開を促進できます。
展開
- Statistics and Machine Learning Toolbox で学習を行った浅いニューラルネットワークから C/C++ コードを生成し、組み込みハードウェアや高性能コンピューティングシステムに展開します。
- Deep Learning Toolbox で学習を行ったニューラルネットワークから最適化された CUDA^® および C/C++ コードを生成し、GPU やその他の産業用ハードウェア (ARM、FPGA) 上で高速推論を行います。

ニューラルネットワークに関するよくある質問

すべて展開

ニューラルネットワークは、人間の脳を思わせる層状の構造で相互に接続されたノード（ニューロン）を用いて学習する適応システムです。入力を複数の抽象化レイヤーに分解することで、パターン認識、データの分類、将来の事象の予測などを行うように訓練できます。

ニューラルネットワークは、音声、視覚、制御システムにおけるパターン認識や分類タスクに用いられ、顔認識、テキスト翻訳、音声認識、車線分類、交通標識認識などの応用が含まれます。

ニューラルネットワークは、訓練中に指定された学習則に従ってニューロン間の接続の重みを自動的に調整することで学習します。通常は予測誤差を最小化するように重みを最適化し、所望のタスクを正しく実行できるようになるまで学習が続けられます。

浅いニューラルネットワークは接続されたニューロンが2層または3層しかありませんが、ディープニューラルネットワークは多数の層（場合によっては数百層）を持ち、手動での特徴抽出を不要にするディープラーニングの用途で使われます。

一般的な代表例は、入力層、隠れ層、出力層を持つフィードフォワードニューラルネットワーク、画像処理向けの畳み込みニューラルネットワーク (CNN)、時系列やテキストなどの順序データ向けのリカレントニューラルネットワーク（RNN）です。

畳み込みニューラルネットワークは画像処理に広く適用される深層ニューラルネットワークのアーキテクチャで、入力上でウィンドウを移動させる畳み込み層と重みを共有するノードによって構成され、画像入力を特徴マップへ抽象化します。

リカレントニューラルネットワーク（RNN）はフィードバックループを持つニューラルネットワークアーキテクチャで、時系列、センサー、テキストデータの時間的／順序的依存性をモデル化します。最も一般的なタイプはLSTM (長短期記憶)です。

MATLABでは、Deep Learning ToolboxやStatistics and Machine Learning Toolboxを使用して数行のコードでニューラルネットワークを作成できます。Classification LearnerやTime Series Modelerといったアプリを使って対話的にモデルを訓練し、さまざまなハードウェアプラットフォームへ展開できます。