この例では、高次元データを分類するための特徴量を選択する方法を示します。具体的には、最も一般的な特徴選択アルゴリズムのひとつである逐次特徴選択を実行する方法を示します。ホールドアウトと交差検証を使用して、選択した特徴量の性能を評価する方法についても示します。

部分最小二乗回帰 (PLSR) と主成分回帰 (PCR) を適用し、これら 2 つの手法の有効性を確認する。

この例では、主成分分析 (PCA) により線形回帰を近似する方法を示します。PCA は、データから近似モデルまでの垂直距離を最小化します。この分析は、直交回帰または全最小二乗と呼ばれるものの線形バージョンであり、応答変数と予測子変数の間に自然な区分がない場合、またはすべての変数が誤差ありで測定される場合に適しています。これは、予測子変数が正確に測定され、応答変数のみが誤差成分をもつ、通常の回帰仮定とは対照的なものです。