定義: デシジョン ツリーは、一連の質問または条件を通じて意思決定プロセスをガイドするツリー状の構造です。

視覚的な説明: これは、何層もの審査を経て最終的に意思決定が行われる、私たちの日常生活における意思決定プロセスにたとえることができます。

デシジョン ツリーは、データの森の中に立つ賢明な「導きの木」のようなもので、私たちが方向を導き、必要な答えを見つけるのに役立ちます。あなたが見慣れない交差点に立っていて、特定の目的地に行きたいと思っていますが、どこに行けばよいのかわかりません。このとき、もし「導きの木」が目の前に現れたら、どうするでしょうか？

(1) 決定ノード：次の分岐を決定するノード。

(2) 計画分岐: 意思決定ノードからの分岐は、さまざまな意思決定計画を表します。

(3) ステータスノード: 中間結果または最終結果となる判定結果またはステータスを表すノード。

(4) 確率分岐: 状態ノードを接続し、異なる状態が発生する確率を表します。

最初のステップは、樹形図を描き、既知の条件に従って各スキームと各スキームのさまざまな自然状態を配置することです。

2 番目のステップでは、確率分岐上の各状態の確率と損益の値をマークします。

3 番目のステップは、各計画の期待値を計算し、計画に対応する状態ノードにマークを付けることです。

4 番目のステップは枝刈り (枝刈りはデシジョン ツリーの分岐を停止する方法の 1 つです。過剰適合を避けるために、生成されたツリーを枝刈りして不要なノードを削除する必要があります) を実行し、それぞれの期待値を比較します。解決策を選択し、それを計画ブランチにマークすると、期待値が小さい (つまり、劣った計画を取り除く) 最後に残った計画が最良の計画になります。

利点: 直感的で理解しやすく、解釈可能性が高く、数値データとカテゴリデータを処理できます。

短所: 過剰適合しやすい、外れ値に敏感、滑らかさに欠け、より多くの固有値を持つ特徴を選択する傾向があります。

実際のアプリケーションでは、デシジョン ツリーを使用するかどうか、および特定のシナリオとニーズに基づいてデシジョン ツリーを最適化する方法を選択する必要があります。

適用範囲: 特に特徴の選択が明確でデータ サイズが中程度の場合、分類および予測の問題に適しています。

一般的に使用される方法:

拡大する

回帰分析は、データを統計的に分析する方法であり、主に 1 つ以上の独立変数 (予測変数、説明変数、または独立変数とも呼ばれます) が従属変数 (応答変数、被説明変数、または従属変数の変化とも呼ばれます) にどのような影響を与えるかを研究します。 ）。

簡単に言えば、回帰分析は、独立変数の値に基づいて従属変数の値を予測できるように、独立変数と従属変数の間の数学的関係またはモデルを見つけようとします。

回帰分析は、経済学、社会学、医学、工学などのさまざまな分野で広く使用されています。例えば：

(1) 線形回帰: 独立変数と従属変数の間には線形関係があり、最も単純で最もよく使用されるタイプです。

(2) ロジスティック回帰: 主に分類問題に使用され、イベントの確率を予測し、線形回帰の結果を 0 ～ 1 の間にマッピングして確率を表現します。

(3) 多項式回帰: 独立変数と従属変数間のデータの関係は線形ではありませんが、多項式の関係があり、データは多項式によってフィッティングできます。

(4) 段階的回帰: 独立変数を段階的に導入または削除することで、重要な独立変数が自動的に選択され、多重共線性を回避し、最適な回帰モデルが選択されます。

(5) リッジ回帰: 高次元データを処理し、モデルの複雑さを軽減し、過剰適合を防止し、多重共線性の問題を解決するために使用される、改良された線形回帰手法。

(1) 線形回帰モデル: y = ax b、ここで、a は傾き、b は切片です。

(2) 非線形回帰モデル: 指数関数や対数関数など、独立変数と従属変数の間には非線形の関係があります。

(3) ロジスティック回帰モデル: ユーザーが広告をクリックするかどうかの予測など、イベントが発生する確率を予測するために使用されます。

(4) リッジ回帰モデル: 過剰適合を避けるために損失関数に正則化項を追加します。

(5) 主成分回帰: 次元削減を通じて独立変数の数を減らし、モデルの効率を向上させます。まず独立変数に対して主成分分析を実行し、次に主成分を使用して回帰を実行します。

(1) 独立変数と従属変数の決定：検討すべき質問と目的を明確にします。

(2) データの収集: 関連する独立変数および従属変数のデータを収集します。

(3) 回帰モデルの選択：データの特性や研究目的に基づいて適切なモデルを選択します。

(4) モデル フィッティング: データを使用してモデル パラメーターを推定します。

(5) モデル評価：モデルのフィッティング効果や予測能力を評価します。

(6) モデルの適用: 予測と分析にモデルを使用します。