(線形回帰) はおそらく最も人気のある機械学習アルゴリズムです。線形回帰は、直線を見つけて、この直線を散布図のデータ ポイントにできるだけ近づけることです。このデータに直線方程式を当てはめることによって、独立変数 (x 値) と数値結果 (y 値) を表現しようとします。この線は、将来の値を予測するために使用できます。

このアルゴリズムで最も一般的に使用される手法は最小二乗法です。この方法では、直線上の各データ ポイントからの垂直距離を最小化する最適な直線が計算されます。合計距離は、すべてのデータ ポイントの垂直距離 (緑色の線) の二乗の合計です。この二乗誤差または距離を最小限に抑えてモデルを適合させるという考え方です。

たとえば、来年の住宅価格の伸びや次の四半期の新製品の売上などを予測します。難しくはないようですが、線形回帰アルゴリズムの難しさは、予測値を取得することではなく、より正確に予測値を取得することです。おそらく非常に少ないかもしれないその数字のために、どれほど多くのエンジニアがそのために青春と髪の毛を費やしてきたことだろう。

ロジスティック回帰は線形回帰に似ていますが、ロジスティック回帰の結果には 2 つの値のみが含まれます。線形回帰がオープン値を予測する場合、ロジスティック回帰は「はい」または「いいえ」の質問を行うことに似ています。

ロジスティック回帰は、カテゴリに対するユーザーの購入嗜好を予測するために、電子商取引またはテイクアウト プラットフォームでよく使用されます。

線形回帰とロジスティック回帰の両方が 1 ラウンドでタスクを終了する場合、デシジョン ツリー (デシジョン ツリー) は複数ステップのアクションです。これらは回帰タスクや分類タスクでも使用されますが、シナリオは通常より複雑で具体的です。

簡単な例を挙げると、教師がクラスで生徒と向き合うとき、誰が良い生徒でしょうか?テストで90点を取れば優秀な生徒であると単純に判断するのはあまりにも乱暴であり、点数のみに基づいて判断することはできません。 90点未満の生徒については、宿題・出席状況・質問などの面に分けて相談させていただきます。

ナイーブ ベイズは、2 つの条件間の関係であるベイズの定理に基づいています。これは、各クラスの確率、つまり x の値が与えられた場合の各クラスの条件付き確率を測定します。このアルゴリズムは分類問題で使用され、はい/いいえの 2 値の結果を返します。以下の方程式を見てください。

ナイーブ ベイズ分類器は、スパム フィルタリングで古典的なアプリケーションとして使用される人気のある統計手法です。

ベイズの定理を用語以外で説明するには、条件 A の下で B が発生する確率を使用して、条件 B の下で A が発生する確率を取得することです。たとえば、子猫があなたのことを好きであれば、その子猫があなたの前でお腹を向ける確率は % です。子猫があなたのことを好きになる確率はどのくらいですか?もちろん、この質問をすることは頭を掻くことに等しいので、他のデータも導入する必要があります。たとえば、子猫があなたを好きなら、b% の確率であなたにくっつき、c% の確率で喉を鳴らします。では、子猫が私たちを好きになる確率はどのようにして知ることができるのでしょうか?ベイズの定理を通じて、お腹が回転する、くっつく、ゴロゴロと喉を鳴らす確率から計算することができます。

サポート ベクター マシン (SVM) は、分類問題用の教師ありアルゴリズムです。サポート ベクター マシンは、データ ポイント間に最大のマージンを持つ 2 本の線を描画しようとします。これを行うには、データ項目を n 次元空間内の点としてプロットします。ここで、n は入力フィーチャの数です。これに基づいて、サポート ベクター マシンは超平面と呼ばれる最適な境界を見つけます。これは、考えられる出力をクラス ラベルごとに最もよく分離します。 超平面と最も近いクラス ポイントの間の距離はマージンと呼ばれます。最適な超平面は、最も近いデータ ポイントと 2 つのクラスの間の距離が最大になるようにポイントを分類する最大のマージンを持ちます。

したがって、サポート ベクター マシンが解決したい問題は、大量のデータをどのように分離するかということです。その主なアプリケーション シナリオには、文字認識、顔認識、テキスト分類、その他の認識が含まれます。

K 最近傍 (KNN) アルゴリズムは非常に単純です。 KNN は、トレーニング セット全体から K 個の最も類似したインスタンス、または K 個の近傍インスタンスを検索し、共通の出力変数をこれらすべての K 個のインスタンスに割り当てることによってオブジェクトを分類します。

K の選択は重要です。値を小さくするとノイズが多くなり、結果が不正確になる可能性がありますが、値を大きくすると実行不可能になります。これは分類に最もよく使用されますが、回帰問題にも適しています。

インスタンス間の類似性を評価するために使用される距離には、ユークリッド距離、マンハッタン距離、またはミンコフスキー距離を使用できます。ユークリッド距離は、2 点間の通常の直線距離です。実際には、点座標の差の二乗和の平方根です。

KNN 理論はシンプルで実装が簡単で、テキスト分類、パターン認識、クラスター分析などに使用できます。

K-means は、データセットを分類することによってクラスター化します。たとえば、このアルゴリズムを使用して、購入履歴に基づいてユーザーをグループ化できます。データセット内で K 個のクラスターを見つけます。 K 平均法は教師なし学習に使用されるため、使用する必要があるのはトレーニング データ X と、識別するクラスターの数 K だけです。

このアルゴリズムは、各データ ポイントをその特性に基づいて K グループの 1 つに繰り返し割り当てます。各 K クラスターに対して K 点 (重心と呼ばれます) を選択します。類似性に基づいて、最も近い重心を持つクラスターに新しいデータ ポイントが追加されます。このプロセスは、重心の変化が止まるまで続きます。

K 平均法は日常生活において不正検出において重要な役割を果たしており、自動車、医療保険、保険不正検出の分野で広く使用されています。

ランダム フォレストは、非常に人気のあるアンサンブル機械学習アルゴリズムです。このアルゴリズムの基本的な考え方は、多くの人の意見が 1 人の個人の意見よりも正確であるということです。ランダム フォレストでは、デシジョン ツリーのアンサンブルを使用します (デシジョン ツリーを参照)。

ランダム フォレストには、マーケティングから医療保険に至るまで、幅広い応用が期待されています。これは、マーケティング シミュレーションのモデル化、顧客ソースのカウント、顧客維持と損失の計算に使用でき、また、病気のリスクや患者の感受性の予測にも使用できます。

主成分分析は、データセットを低次元の線または超平面/部分空間に圧縮することにより、データセットの次元を削減します。これにより、元のデータの顕著な特徴が可能な限り保存されます。

人工ニューラル ネットワーク (ANN) は、大規模で複雑な機械学習タスクを処理できます。ニューラル ネットワークは本質的に、ニューロンと呼ばれる重み付けされたエッジとノードで構成される相互接続された層のセットです。入力層と出力層の間に、複数の隠れ層を挿入できます。人工ニューラル ネットワークは 2 つの隠れ層を使用します。さらに、ディープラーニングにも対処する必要があります。

人工ニューラル ネットワークは脳の構造と同じように機能します。ニューロンのグループにはランダムな重みが与えられ、ニューロンが入力データを処理する方法が決定されます。入力と出力の関係は、入力データでニューラル ネットワークをトレーニングすることによって学習されます。トレーニング段階では、システムは正しい答えにアクセスできます。

ネットワークが入力を正確に認識しない場合、システムは重みを調整します。十分なトレーニングを経ると、常に正しいパターンを認識します。

画像認識はニューラル ネットワークのよく知られたアプリケーションです。