量子化ワークフローの必要条件

このページでは、Deep Learning Toolbox Model Quantization Library を使用した深層学習ネットワークの量子化、シミュレーション、および展開に必要な製品について説明します。必要な必要条件は、量子化ワークフローの各段階における選択によって異なります。

すべての量子化ワークフローに関する必要条件

以下の要件は、量子化ワークフローのすべての段階に適用されます。

Deep Learning Toolbox™
Deep Learning Toolbox Model Quantization Library

サポートされているネットワークと層

各実行環境でサポートされているネットワークと層は、以下のリンクで説明されています。

GPU — サポートされるネットワーク、層、クラス (GPU Coder)
FPGA — Supported Networks, Layers, Boards, and Tools (Deep Learning HDL Toolbox)
CPU — コード生成でサポートされているネットワークとレイヤー (MATLAB Coder)
MATLAB — コード生成でサポートされているネットワークとレイヤー (MATLAB Coder)
メモ
実行環境が MATLAB に設定されている場合、Intel MKL-DNN 深層学習ライブラリの層のみがサポートされます。

キャリブレーションに関する必要条件

キャリブレーションに関する必要条件は、キャリブレーション環境の選択によって異なります。

ホスト GPU でのキャリブレーション —
- Parallel Computing Toolbox™
- GPU Coder™ Interface for Deep Learning
- Compute Capability 3.5 以上の CUDA^® 対応 NVIDIA^® GPU。
- サポートされている C/C++ コンパイラ
  - Windows^® の場合、MinGW C/C++ コンパイラはサポートされていません。Microsoft Visual C++ 2022、Microsoft Visual C++ 2019、または Microsoft Visual C++ 2017 を使用してください。
  - Linux^® の場合、GCC C/C++ コンパイラを使用してください。
    サポートされているコンパイラの一覧については、Supported and Compatible Compilers を参照してください。
ホスト CPU でのキャリブレーション —
- MATLAB^® Coder™ Interface for Deep Learning または GPU Coder Interface for Deep Learning

量子化に関する必要条件

MATLAB で関数 quantize を使用するかディープネットワーク量子化器アプリの [Export]、[Export Quantized Network] オプションを使用してシミュレーション用にネットワークを量子化する場合、追加の必要条件はありません。

検証に関する必要条件

関数 validate を使用するか、ディープネットワーク量子化器アプリの [Quantize and Validate] ボタンを使用して、量子化されたネットワークの展開を検証するには、以下が必要です。

実行環境	検証に関する必要条件
GPU	Parallel Computing Toolbox GPU Coder Interface for Deep Learning Compute Capability 6.1、6.3、またはそれ以上の CUDA 対応 NVIDIA GPU 前提条件となる製品の設定 (GPU Coder)
FPGA	MATLAB Coder Interface for Deep Learning Deep Learning HDL Toolbox™ Deep Learning HDL Toolbox Support Package for Xilinx^® FPGA and SoC Devices Deep Learning HDL Toolbox Support Package for Intel^® FPGA and SoC Devices `hdlsetuptoolpath` (HDL Coder)
CPU	MATLAB Coder Interface for Deep Learning MATLAB Coder Embedded Coder^® ARM Compute Library。詳細については、深層学習に MATLAB Coder を使用するための前提条件 (MATLAB Coder)を参照してください。
MATLAB	N/A

このソフトウェアは、CPU および GPU への展開のため、畳み込み層の重み、バイアス、および活性化を、8 ビットにスケーリングされた整数データ型に量子化することで、畳み込み深層ニューラルネットワーク用のコードを生成します。この量子化は、関数 calibrate によって生成されたキャリブレーション結果ファイルを codegen (MATLAB Coder) コマンドに渡すことで行われます。

コード生成では、関数 quantize によって生成された量子化済みの深層ニューラルネットワークがサポートされません。

CPU、FPGA、および GPU 実行環境のターゲットハードウェアでの検証は、MATLAB Online™ ではサポートされていません。FPGA および GPU 実行環境の場合、MATLAB Online ホスト上のエミュレーション経由で検証を実行できます。MATLAB Online Server™ クラスターに GPU サポートが追加されている場合、GPU 検証も実行できます。MATLAB Online の GPU サポートの詳細については、Configure GPU Support in MATLAB Online Server (MATLAB Online Server)を参照してください。