ebook

第 5 章

モデルの展開


ディープラーニングのモデルを開発・学習させた後は、それを大規模なシステムに組み込んで使ってみたいと考えるのではないでしょうか。

MATLAB では、単一のソースから、NVIDIA® GPU、Intel® および Arm® CPU、FPGA または SoCデバイスといったさまざまな組み込みハードウェアプラットフォームや、クラウドまたはエッジデバイスに、ディープラーニングのモデルを展開できます。元のモデルを書き換えることもできます。

言うまでもなく、展開オプションは、消費電力やフットプリント (必要とするメモリ) の要件に最も準拠したものを選択します。トレードオフを考慮する必要もあるかもしれません。たとえば、重要な考慮事項のひとつに、レイテンシ (通信の遅延時間) があります。高速カメラを使用するような光学システム、特に安全性を重視する場合は、低レイテンシが必要になるでしょう。

Figure 1

展開オプションの比較

デバイス 利点 欠点
FPGA 低レイテンシ、省電力 プログラミングが難しい
CPU プログラミングが簡単かつ柔軟 最小スループット
GPU 最大スループット 高消費電力

展開オプションを選択したら、MATLAB で試し、動作を確認できます。FPGAに展開する場合は、要件をより満たすように変更して結果を再実行することがありますが、これらはすべて MATLAB 内で実行できます。六角ナットの例では、画像がシンプルなため、畳み込み層の一部を削除することでネットワークを単純化できます。または、固定小数点に量子化 (ビット数の低減) することで、性能を改善するのみならず、レイテンシを低減し、さらには精度のトレードオフも実現できる可能性があります。