Main Content

ルックアップ テーブルの近似関数の使用

以下に、ルックアップ テーブルの近似関数を使用する手順をまとめます。

  1. 定義:

    1. 近似する理想関数

    2. X データと Y データを見つける xmin ～ xmax の範囲

    3. 固定小数点の実装: データ型、スケーリング、および丸め手法

    4. 最大許容誤差、点数の最大数、および間隔

  2. 関数 fixpt_look1_func_approx を実行して X データと Y データを生成します。

  3. 関数 fixpt_look1_func_plot を使用し、関数および理想関数と選択した X データと Y データを使用して近似した関数の間の誤差をプロットし、誤差と使用した点数を計算します。

  4. errmax、nptsmax や spacing などの入力条件を変えて、最悪誤差、必要な点数、および間隔が異なる関数を生成する X データと Y データのセットを作成します。

  5. さまざまな実行に基づく必要な点数と最大絶対誤差の結果を比較して、最良の X データと Y データのセットを選択します。