Main Content

Spark アプリケーション

コンパイルされた MATLAB® アプリケーションを作成し、Spark™ 対応の Hadoop® クラスターで実行する

サポートされるプラットフォーム: Linux® のみ。

MATLAB アプリケーションは、次の 2 つの方法で Spark にデプロイすることができます。

  • Spark 対応の Hadoop クラスターへの tall 配列のデプロイ

  • Spark 用 MATLAB API を使用したアプリケーションのデプロイ

tall 配列を含む MATLAB アプリケーションのデプロイについては、Spark 対応の Hadoop クラスターへの tall 配列のデプロイを参照してください。tall 配列を操作する方法の詳細については、tall 配列を参照してください。

Spark プログラムで共通の、flatMap などの関数を使用する MATLAB アプリケーションのデプロイについては、Spark 用 MATLAB API を使用したアプリケーションのデプロイを参照してください。

Spark 用 MATLAB API は、Spark プログラミング モデルを MATLAB に公開します。したがって、MATLAB アプリケーションを作成する際にいつでも使用できる、flatMapmapPartitionsaggregate などの Spark 関数を見つけられます。

メモ

Spark 用 MATLAB API を使って開発された MATLAB アプリケーションは、tall 配列が含まれている場合にはデプロイできません。

Spark の概念の簡潔な概要と、デプロイされた MATLAB アプリケーションにこれらの概念がどう組み込まれているかの説明は、Apache Spark の基礎を参照してください。

MATLAB は科学的アルゴリズムおよびエンジニアリング アルゴリズムの膨大なコレクションを有しており、Spark は大規模データを処理するための高速で汎用型のエンジンです。MATLAB アプリケーションを Spark にデプロイすることにより、MATLAB でアプリケーションを作成して Spark 対応のクラスターで実行することができます。

サポートされる Apache® Spark のバージョン: 1.3–2.x.

カテゴリ