このページの翻訳は最新ではありません。ここをクリックして、英語の最新版を参照してください。

cnncodegen

系列ネットワークまたは DAG ネットワークのコードの生成とスタティック ライブラリのビルド

構文

cnncodegen(net,'targetlib',libraryname)

cnncodegen(net,'targetlib',libraryname,Name,Value)

説明

cnncodegen(net,'targetlib',libraryname) は、すべてのプロパティに既定値を使用し、指定したネットワーク オブジェクトとターゲット ライブラリについて、CUDA^® C++ コードを生成して、スタティック ライブラリをビルドします。

cnncodegen(net,'targetlib',libraryname,Name,Value) は、1 つ以上の Name,Value 引数ペアで指定した追加のコード生成オプションを使用し、指定したネットワーク オブジェクトとターゲット ライブラリについて、CUDA C++ コードを生成して、スタティック ライブラリをビルドします。

例

ARM プロセッサで実行する事前学習済みネットワークの C++ コードの生成

cnncodegen を使用して ARM^® プロセッサに展開するための事前学習済みネットワークの C++ コードを生成します。

関数 googlenet (Deep Learning Toolbox) を使用して事前学習済みの GoogLeNet モデルを取得します。この関数には、Deep Learning Toolbox™ Model for GoogLeNet Network が必要です。このサポート パッケージをインストールしていない場合、関数によってダウンロード用リンクが表示されます。または、https://www.mathworks.com/matlabcentral/fileexchange/64456-deep-learning-toolbox-model-for-googlenet-networkを参照してください。

net = googlenet;

cnncodegen を使用し、'targetlib' を 'arm-compute' に設定してコードを生成します。'arm-compute' の場合、'ArmArchitecture' パラメーターを指定しなければなりません。

cnncodegen(net,'targetlib','arm-compute'...
,'targetparams',struct('ArmComputeVersion','19.02','ArmArchitecture','armv8'));

NVIDIA GPU で実行する YOLO ネットワークのコードの生成

PASCAL データセットを分類するために学習させた YOLO アーキテクチャ用に作成された SeriesNetwork オブジェクトから CUDA C++ コードを生成します。この例には、GPU Coder™ 製品と GPU Coder Interface for Deep Learning Libraries が必要です。

事前学習済みの YOLO ネットワークを取得し、SeriesNetwork オブジェクトに変換します。

url = 'https://www.mathworks.com/supportfiles/gpucoder/cnn_models/Yolo/yolonet.mat';
websave('yolonet.mat',url);
net = coder.loadDeepLearningNetwork('yolonet.mat');

SeriesNetwork オブジェクト net には 58 個の層が含まれています。これらの層は畳み込み層で、その後ろに漏洩 ReLU 層が続き、ネットワーク アーキテクチャの最後に全結合層があります。net.Layers を使用して、このネットワークのすべての層を表示できます。

関数 cnncodegen を使用して CUDA コードを生成します。

cnncodegen(net,'targetlib','cudnn');

コード ジェネレーターは、'/pwd/codegen' フォルダーに .cu ファイルとヘッダー ファイルを生成します。この系列ネットワークは、58 個の層クラスから成る配列を含む CnnMain という名前の C++ クラスとして生成されます。このクラスの setup() メソッドは、ハンドルを設定し、各層オブジェクトにリソースを割り当てます。predict() メソッドは、ネットワーク内の 58 個の層それぞれについて予測を呼び出します。cleanup() メソッドは、各層オブジェクトに割り当てられたすべてのメモリとシステムのリソースを解放します。ネットワークの畳み込み層のバイナリ重み (cnn_**_w) およびバイアス ファイル (cnn_**_b) はすべて、codegen フォルダーに保存されます。これらのファイルは、スタティック ライブラリ cnnbuild.a (Linux^®) または cnnbuild.lib (Windows^®) にコンパイルされます。

入力引数

net — 系列ネットワーク オブジェクトまたは DAG ネットワーク オブジェクトの名前

文字ベクトル | string スカラー

事前学習済みの SeriesNetwork または DAGNetwork オブジェクト。

libraryname — 深層学習のターゲット ライブラリ

文字ベクトル | string スカラー

コードを生成するターゲット ライブラリとターゲット プラットフォーム。次の表のいずれかの値を指定します。

値	説明
'arm-compute'	コンピューター ビジョンや機械学習用の ARM Compute Library を使用して、NEON 命令がサポートされた ARM CPU プロセッサをターゲットにします。 MATLAB® Coder™ Interface for Deep Learning Libraries が必要です。
'arm-compute-mali'	コンピューター ビジョンおよび機械学習用の ARM Compute Library を使用して、ARM GPU プロセッサをターゲットにします。 GPU Coder 製品と GPU Coder Interface for Deep Learning Libraries が必要です。
'cudnn'	CUDA Deep Neural Network library (cuDNN) を使用して、NVIDIA® GPU をターゲットにします。 GPU Coder 製品と GPU Coder Interface for Deep Learning Libraries が必要です。
'mkldnn'	Intel® Math Kernel Library for Deep Neural Networks (MKL-DNN) を使用して、Intel CPU プロセッサをターゲットにします。 MATLAB Coder Interface for Deep Learning Libraries が必要です。
'tensorrt'	高性能な深層学習用推論オプティマイザーおよびランタイム ライブラリである NVIDIA TensorRT™ を使用して、NVIDIA GPU をターゲットにします。 GPU Coder 製品と GPU Coder Interface for Deep Learning Libraries が必要です。

名前と値のペアの引数

オプションの引数 Name,Value のコンマ区切りペアを指定します。Name は引数名で、Value は対応する値です。Name は引用符で囲まなければなりません。Name1,Value1,...,NameN,ValueN のように、複数の名前と値のペアの引数を、任意の順番で指定できます。

例: cnncodegen(net,'targetlib','mkldnn','codegenonly',0,'batchsize',1) は、MKL-DNN を使用して Intel プロセッサ用の C++ コードを生成し、net のネットワーク オブジェクトについてスタティック ライブラリをビルドします。

一般オプション

batchsize — サイズ

1 (既定値) | 正の整数

ネットワークの predict() メソッドの 1 回の呼び出しで処理する観測数を指定する正の非ゼロの整数値。network->predict() を呼び出すとき、入力データのサイズは cnncodegen 時に指定した batchsize の値と一致しなければなりません。

libraryname が 'arm-compute' または 'arm-compute-mali' の場合、batchsize の値は 1 でなければなりません。

codegenonly — コードのみを生成するオプション

0 (既定値) | 1

boolean フラグ。有効にされている場合、makefile の生成やビルドを行わずに CUDA C++ コードを生成します。

targetparams — ライブラリ固有のパラメーター

構造体

ライブラリ固有のパラメーター。次の表で説明するフィールドを含む 1 行 1 列の構造体として指定します。

ARM Compute Library (CPU) のパラメーター

フィールド	説明
ArmComputeVersion	ターゲット ハードウェア上の ARM Compute Library のバージョン。'18.05'、'18.08'、'18.11'、'19.02'、または '19.05' として指定します。既定値は '19.05' です。ArmComputeVersion を '19.05' 以降のバージョンに設定した場合でも、ArmComputeVersion は '19.05' に設定されます。
ArmArchitecture	ターゲット ハードウェアでサポートされている ARM アーキテクチャ。'armv7 または 'armv8' を指定します。指定したアーキテクチャは、ターゲット ハードウェア上の ARM Compute Library のアーキテクチャと同じでなければなりません。 ArmArchitecture は必須のパラメーターです。

ARM Compute Library (Mali GPU) のパラメーター

フィールド	説明
ArmComputeVersion	ターゲット ハードウェア上の ARM Compute Library のバージョン。'19.02' または '19.05' として指定します。既定値は '19.05' です。ArmComputeVersion を '19.05' 以降のバージョンに設定した場合でも、ArmComputeVersion は '19.05' に設定されます。

NVIDIA cuDNN ライブラリのパラメーター

フィールド	説明
AutoTuning	自動調整機能を有効または無効にします。自動調整を有効にすると、cuDNN ライブラリで最速の畳み込みアルゴリズムを見つけられるようになります。これにより、SegNet や ResNet などの規模が大きなネットワークのパフォーマンスが向上します。既定値は true です。 メモ TensorRT ターゲットに対して AutoTuning が有効になっている場合、ソフトウェアは自動調整を無効化してコードを生成します。これは、警告メッセージやエラー メッセージを表示することなく行います。
DataType	ネットワークへのテンソル データ型入力の精度を指定します。32 ビット浮動小数点の推論を実行する場合、'FP32' を使用します。8 ビット整数には、'INT8' を使用します。既定値は 'FP32' です。 DataType を 'INT8' に設定する場合、computecapability 引数を '6.1' 以上に設定しなければなりません。Compute Capability 6.2 では INT8 の精度をサポートしていません。
CalibrationResultFile	キャリブレーション データを含んだ MAT ファイルの場所。既定値は '' です。このオプションは、DataType が 'INT8' に設定されている場合にのみ適用できます。

NVIDIA TensorRT ライブラリのパラメーター

フィールド	説明
DataType	ネットワークへのテンソル データ型入力の精度または層のテンソル出力の精度を指定します。32 ビット浮動小数点の推論を実行する場合、'FP32' を使用します。8 ビット整数には、'INT8' を使用します。半精度には、'FP16' を使用します。既定値は 'FP32' です。 DataType を 'FP16' に設定する場合、computecapability 引数を '7.0' 以上に設定しなければなりません。 DataType を 'INT8' に設定する場合、computecapability 引数を '6.1' 以上に設定しなければなりません。Compute Capability 6.2 では INT8 の精度をサポートしていません。
DataPath	再キャリブレーション中に使用されるイメージ データセットの位置。既定値は '' です。このオプションは、DataType が 'INT8' に設定されている場合にのみ適用できます。 'INT8' オプションを選択すると、TensorRT は浮動小数点データを int8 に量子化します。再キャリブレーションは、絞り込んだキャリブレーション データのセットを使用して実行されます。キャリブレーション データは、DataPath で指定したイメージ データの位置に存在していなければなりません。
NumCalibrationBatches	int8 のキャリブレーション バッチの数を指定する数値。ソフトウェアは、batchsize*NumCalibrationBatches の積を使用してイメージ データセットからイメージのランダムなサブセットを選択し、キャリブレーションを実行します。batchsize*NumCalibrationBatches の値は、イメージ データセット内に存在するイメージ数を超えてはなりません。既定値は 50 です。このオプションは、DataType が 'INT8' に設定されている場合にのみ適用できます。 NVIDIA は、約 500 個のイメージを使用してキャリブレーションすることを推奨しています。詳細については、TensorRT のドキュメンテーションを参照してください。

GPU オプション (GPU Coder のみ)

computecapability — Compute バージョン

文字ベクトル | string スカラー

このプロパティは GPU ターゲットにのみ影響します。

コンパイル用の NVIDIA GPU Compute Capability を指定する文字ベクトルまたは string スカラー。引数は major#.minor# の形式になります。

可能な値は、'3.2'|'3.5'|'3.7'|'5.0'|'5.2'|'5.3'|'6.0'|'6.1'|'6.2'|'7.0'|'7.1'|'7.2' です。

既定値は '3.5' です。

互換性の考慮事項

ターゲット ライブラリのサポートに対する変更

将来のリリースで動作変更

将来のリリースでは、関数 cnncodegen で C++ コードを生成し、ARM Mali GPU プロセッサ専用スタティック ライブラリをビルドする予定です。引き続き 'targetlib' 引数に 'arm-compute-mali' 値を使用することにより、コンピューター ビジョンおよび機械学習用の ARM Compute Library を使用して、ARM Mail GPU をターゲットにすることができます。

他のすべてのターゲットには、codegen コマンドを使用します。

参考

関数

• codegen | coder.loadDeepLearningNetwork

トピック

• MKL-DNN を使用した、深層学習ネットワークのためのコード生成
• codegen を使用した ARM Compute による深層学習の予測
• cuDNN を使用した深層学習ネットワークのコード生成
• TensorRT を使用した深層学習ネットワークのコード生成
• ARM Mali GPU をターゲットとする深層学習ネットワークのコード生成
• YOLO v2 を使用したオブジェクト検出のコードの生成
• NVIDIA TensorRT を使用した深層学習での予測

R2017b で導入