このページの内容は最新ではありません。最新版の英語を参照するには、ここをクリックします。

量子化ワークフローの前提条件

このページでは、Deep Learning Toolbox Model Compression Library を使用した深層学習ネットワークの量子化、シミュレーション、および展開に必要な製品について説明します。必要な前提条件は、量子化ワークフローの各段階における選択によって異なります。

すべての量子化ワークフローに関する前提条件

以下の要件は、量子化ワークフローのすべての段階に適用されます。

サポートされているネットワークと層

各実行環境に関連付けられたターゲット ハードウェアによって、その環境でサポートされるネットワークと層が決まります。サポートされている層の一覧については、Supported Layers for Quantizationを参照してください。

キャリブレーションに関する前提条件

キャリブレーションに関する前提条件は、キャリブレーション環境の選択によって異なります。

  • ホスト GPU でのキャリブレーション —

    • Parallel Computing Toolbox™

    • GPU Coder™ Interface for Deep Learning

    • Compute Capability 3.5 以上の CUDA® 対応 NVIDIA® GPU。

    • サポートされている C/C++ コンパイラ

      • Windows® の場合、MinGW C/C++ コンパイラはサポートされていません。Microsoft Visual C++ 2022、Microsoft Visual C++ 2019、または Microsoft Visual C++ 2017 を使用してください。

      • Linux® の場合、GCC C/C++ コンパイラを使用してください。

        サポートされているコンパイラの一覧については、Supported and Compatible Compilers を参照してください。

  • ホスト CPU でのキャリブレーション —

    • MATLAB® Coder™ Interface for Deep Learning または GPU Coder Interface for Deep Learning

量子化に関する前提条件

MATLAB で quantize 関数を使用するかディープ ネットワーク量子化器アプリの [エクスポート]、[Export Quantized Network] オプションを使用してシミュレーション用にネットワークを量子化する場合、次のものが必要です。

  • MATLAB 実行環境を使用する場合、量子化を行うには Fixed-Point Designer™ ライセンスが必要です。

  • CPU 実行環境を使用する場合、量子化ステップはサポートされません。

  • 量子化に他の実行環境を使用する場合、追加の前提条件はありません。

検証に関する前提条件

validate 関数を使用するか、ディープ ネットワーク量子化器アプリの [検証] ボタンを使用して、量子化されたネットワークの展開を検証するには、以下が必要です。

実行環境検証に関する前提条件
GPU

  • Parallel Computing Toolbox

  • GPU Coder Interface for Deep Learning

  • Compute Capability 6.1、6.3、またはそれ以上の CUDA 対応 NVIDIA GPU

  • 前提条件となる製品の設定 (GPU Coder)

FPGA

  • Deep Learning HDL Toolbox™

  • Deep Learning HDL Toolbox Support Package for AMD FPGA and SoC Devices

  • Deep Learning HDL Toolbox Support Package for Intel® FPGA and SoC Devices

  • hdlsetuptoolpath (HDL Coder)

CPU

MATLAB

  • Fixed-Point Designer

このソフトウェアは、CPU および GPU への展開のため、畳み込み層の重み、バイアス、および活性化を、8 ビットにスケーリングされた整数データ型に量子化することで、深層ニューラル ネットワーク用のコードを生成します。この量子化は、関数 calibrate によって生成されたキャリブレーション結果ファイルを codegen (MATLAB Coder) コマンドに渡すことで行われます。

コード生成では、関数 quantize によって生成された量子化済みの深層ニューラル ネットワークがサポートされません。

CPU、FPGA、および GPU 実行環境のターゲット ハードウェアでの検証は、MATLAB Online™ ではサポートされていません。FPGA および GPU 実行環境の場合、MATLAB Online ホスト上のエミュレーション経由で検証を実行できます。MATLAB Online Server™ クラスターに GPU サポートが追加されている場合、GPU 検証も実行できます。MATLAB Online の GPU サポートの詳細については、Configure GPU Support in MATLAB Online Server (MATLAB Online Server)を参照してください。

参考

トピック