このページの内容は最新ではありません。最新版の英語を参照するには、ここをクリックします。

量子化ワークフローの前提条件

このページでは、Deep Learning Toolbox Model Compression Library を使用した深層学習ネットワークの量子化、シミュレーション、および展開に必要な製品について説明します。必要な前提条件は、量子化ワークフローの各段階における選択によって異なります。

すべての量子化ワークフローに関する前提条件

以下の要件は、量子化ワークフローのすべての段階に適用されます。

サポートされているネットワークと層

各実行環境に関連付けられたターゲット ハードウェアによって、その環境でサポートされるネットワークと層が決まります。サポートされている層の一覧については、Supported Layers for Quantizationを参照してください。

キャリブレーションに関する前提条件

キャリブレーションに関する前提条件は、キャリブレーション環境の選択によって異なります。

  • ホスト GPU でのキャリブレーション —

    • Parallel Computing Toolbox™

    • GPU Coder™ Interface for Deep Learning

    • Compute Capability 3.5 以上の CUDA® 対応 NVIDIA® GPU。

    • サポートされている C/C++ コンパイラ

      • Windows® の場合、MinGW C/C++ コンパイラはサポートされていません。Microsoft Visual C++ 2022、Microsoft Visual C++ 2019、または Microsoft Visual C++ 2017 を使用してください。

      • Linux® の場合、GCC C/C++ コンパイラを使用してください。

        サポートされているコンパイラの一覧については、Supported and Compatible Compilers を参照してください。

  • ホスト CPU でのキャリブレーション —

    • MATLAB® Coder™ Interface for Deep Learning または GPU Coder Interface for Deep Learning

量子化に関する前提条件

MATLAB で quantize 関数を使用するかディープ ネットワーク量子化器アプリの [エクスポート]、[Export Quantized Network] オプションを使用してシミュレーション用にネットワークを量子化する場合、次のものが必要です。

  • MATLAB 実行環境を使用する場合、量子化を行うには Fixed-Point Designer™ ライセンスが必要です。

  • CPU 実行環境を使用する場合、量子化ステップはサポートされません。

  • 量子化に他の実行環境を使用する場合、追加の前提条件はありません。

検証に関する前提条件

validate 関数を使用するか、ディープ ネットワーク量子化器アプリの [検証] ボタンを使用して、量子化されたネットワークの展開を検証するには、以下が必要です。

実行環境検証に関する前提条件
GPU

  • Parallel Computing Toolbox

  • GPU Coder Interface for Deep Learning

  • Compute Capability 6.1、6.3、またはそれ以上の CUDA 対応 NVIDIA GPU

  • 前提条件となる製品の設定 (GPU Coder)

FPGA

  • Deep Learning HDL Toolbox™

  • Deep Learning HDL Toolbox Support Package for AMD FPGA and SoC Devices

  • Deep Learning HDL Toolbox Support Package for Intel® FPGA and SoC Devices

  • hdlsetuptoolpath (HDL Coder)

CPU

MATLAB

  • Fixed-Point Designer

このソフトウェアは、CPU および GPU への展開のため、畳み込み層の重み、バイアス、および活性化を、8 ビットにスケーリングされた整数データ型に量子化することで、深層ニューラル ネットワーク用のコードを生成します。この量子化は、関数 calibrate によって生成されたキャリブレーション結果ファイルを codegen (MATLAB Coder) コマンドに渡すことで行われます。

コード生成では、関数 quantize によって生成された量子化済みの深層ニューラル ネットワークがサポートされません。

CPU、FPGA、および GPU 実行環境のターゲット ハードウェアでの検証は、MATLAB Online ではサポートされていません。FPGA および GPU 実行環境の場合、MATLAB Online ホスト上のエミュレーション経由で検証を実行できます。MATLAB Online Server™ クラスターに GPU サポートが追加されている場合、GPU 検証も実行できます。MATLAB Online の GPU サポートの詳細については、を参照してください。

参考

トピック