半精度データ型によるイメージの量子化

この例では、イメージに対する量子化の効果を説明します。ex_imagequantization モデルは、チェッカーボードのイメージの 2 次元フーリエ変換を計算します。一番左の列に元のイメージが表示されており、固定小数点、半精度、単精度データ型の結果が表示されています。結果のイメージから分かるように、固定小数点データ型では許容可能な結果が常に得られるとは限らないのに対し、固定小数点データ型と同じビット数を使用する半精度データ型では、単精度と同等の結果が得られています。

model = 'ex_image_quantization.slx';
open_system(model);
sim(model)