LSTM (長・短期記憶)


LSTM (Long Short-Term Memory: 長・短期記憶)ネットワークは、RNN(再帰型 ニューラル ネットワーク) の一種です。

LSTM の強みは、時系列データの学習や予測(回帰・分類)にあります。一般的な応用分野としては感情分析、言語モデリング、音声認識、動画解析などがあります。

RNN を訓練する最も一般的な方法は、通時的誤差逆伝播法(BBTT)です。しかしながら、その勾配消失問題により長期的な情報は損なわれ、ネットワークのパラメータは短期的な依存関係を学習してしまいます。 また、これとは逆の勾配爆発が発生することもあり、この場合は誤差がタイムステップ毎に大幅に増大します。


LSTM Applications and Examples

The examples below use MATLAB® and Deep Learning Toolbox™ to apply LSTM in specific applications. Beginners can get started with LSTM networks through this simple example: Time Series Forecasting Using LSTMs.

Radar Target Classification

Classify radar returns using a Long Short-Term Memory (LSTM) recurrent neural network in MATLAB

Keyword Spotting

Wake up a system when a user speaks a predefined keyword

Text Generation

Train a deep learning LSTM network to generate text word-by-word

Classifying ECG Signals

Categorize ECG signals, which record the electrical activity of a person's heart over time, as Normal or AFib

Water Distribution System Scheduling

Generate an optimal pump scheduling policy for a water distribution system using reinforcement learning (RL)

Video Classification

Classify video by combining a pretrained image classification model and an LSTM network

Technical Features of RNN and LSTM

LSTM networks are a specialized form of RNN architecture. The differences between the 

再起型 ニューラル ネットワーク





LSTMネットワークの詳細については、「Deep Learning Toolbox™」を参照してください。

参考: MATLAB for deep learning, machine learning, MATLAB for data science, GPU computing, artificial intelligence