回帰問題は、連続ターゲット変数の予測を解くことに焦点を当てており、多数の数値的特徴 (その多くは相関している) を含む大規模なデータ セットに適しています。たとえば、過去の株式市場の収益を使用して将来の株価パフォーマンスを予測したり、企業の過去の財務指標を使用して債券デフォルトの確率を予測したりできます。

ペナルティ付き回帰

分類問題は、観測値の分類に焦点を当てます。従属変数 (ターゲット) がカテゴリ変数の場合、結果を独立変数 (特徴) に関連付けるモデルは「分類器」と呼ばれます。例には、財務上の不正または不正なし (2 つのカテゴリ)、格付けの割り当て (複数のカテゴリ、連続) が含まれます。

観察結果の差異を維持しながら、特徴量の数を減らします。たとえば、投資とリスク管理の分野では、資産価格に影響を与える主な要因を特定します。

企業などの観察データを、業界や地域ごとではなく財務指標の特徴ごとに分類します。

ML アルゴリズムの評価は、アルゴリズムが適合したデータ (つまり、トレーニング データ) の適合度ではなく、新しいデータの予測誤差に焦点を当てます。

誤った仮定を含むアルゴリズム

不安定なモデルではノイズが発生します。

データのランダム性による基本誤差

アンダーフィッティングとは、モデルがデータ内の関係を捉えていないことを意味します

オッカムの剃刀 オッカムの剃刀