畳み込みニューラル ネットワーク (CNN) は、画像認識、ビデオ分析、自然言語処理などの分野に特に適した深層学習モデルです。 CNN の設計は生物学的視覚システムからインスピレーションを受けており、階層構造を使用してデータ内の局所的な特徴と全体的なパターンを捕捉します。

1950 年代: フランク ローゼンブラットは、最も初期のニューラル ネットワーク モデルの 1 つであるパー​​セプトロンを提案しました。

1980 年代: Yann LeCun らが LeNet-5 を提案しました。これは、手書き数字認識への適用に成功した最初の CNN でした。

1998: Yann LeCun らは LeNet-5 をさらに開発し、手書き郵便番号認識用の LeNet-5 の改良版を提案しました。

2012: Alex Krizhevsky らは、ImageNet 大規模視覚認識チャレンジ (ILSVRC) で画期的な結果を達成した最初の CNN である AlexNet を提案しました。

2014: VGGNet は ILSVRC でより良い結果を達成し、より深いネットワーク構造の利点を実証しました。

2014: Google は、Inception モジュールの導入によりネットワークのコンピューティング効率を向上させる Inception アーキテクチャ (GoogLeNet) を提案しました。

2015: Microsoft は、残余接続を通じてディープ ネットワーク トレーニングにおける勾配消失問題を解決する ResNet (Residual Network) を提案しました。

これまでのところ: CNN は進化を続けており、EfficientNet や Vision Transformer などの新しいネットワーク構造の出現や、さまざまなアプリケーション分野でのさらなる最適化が行われています。

...

入力レイヤー: 画像のピクセル値などの生データを受け取ります。

畳み込み層: 畳み込みカーネルを使用して局所特徴を抽出します。

活性化層: ReLU などの非線形性を導入します。

プーリング層: データの次元を削減し、計算量を減らし、過剰適合を防ぎます。

完全接続レイヤー: フィーチャを分類ラベルなどの最終出力にマッピングします。

出力層: ネットワークの最終結果を出力します。

畳み込み演算: 入力データ上で畳み込みカーネルをスライドさせて、局所的な特徴を抽出します。

重みの共有: 同じ畳み込みカーネルが入力データ全体の重みを共有し、モデル パラメーターを削減します。

プーリング: 最大プーリングや平均プーリングなど、ローカル エリアのダウンサンプリング。

活性化関数: ReLU、Sigmoid、Tanh などの非線形性を導入します。

コンボリューション カーネル (フィルター): コンボリューション層の特徴を抽出するために使用される重み行列。

ストライド: コンボリューション カーネルが入力データ上で移動するステップ サイズ。

...

LeNet-5: 手書き数字認識のための初期の CNN モデル。

AlexNet: ReLU アクティベーション関数を導入し、パラメーターの数を減らし、トレーニング速度を向上させました。

VGGNet: 小さな畳み込みカーネルとより深いネットワーク構造を使用します。

InceptionNet: ネットワークのコンピューティング効率を向上させるための Inception モジュールの導入。

ResNet: 残留接続を通じてディープ ネットワーク トレーニングにおける勾配消失問題を解決します。

SqueezeNet: CNN がパラメーターの数が少ない場合でも高いパフォーマンスを維持できることを示します。

...

CNN は、多層の畳み込みおよびプーリング操作を通じて画像の局所的な特徴を抽出し、完全に接続された層を通じて分類を実行します。畳み込み演算は画像内のエッジやテクスチャなどの低レベルの特徴をキャプチャでき、ディープ ネットワークはより複雑なパターンを学習できます。重みの共有とプーリングを通じて、CNN は大規模なデータ セットを効果的に処理し、過剰適合のリスクを軽減できます。

画像認識：手書き数字認識、物体認識など。

画像セグメンテーション：医用画像解析などのために画像を複数の領域に分割します。

ビデオ分析: 行動認識、ビデオ監視などに使用されます。

音声認識: CNN は主に画像処理に使用されますが、音声信号の特徴抽出にも使用できます。

...

コンピューティング リソースの要件: ディープ ネットワークには、大量のコンピューティング リソースとストレージ スペースが必要です。

データ量の要件: 高性能モデルをトレーニングするには、大量の注釈付きデータが必要です。

解釈可能性: CNN の内部動作メカニズムは浅いモデルほど透明ではないため、意思決定プロセスを説明することが困難です。

入力サイズに敏感: CNN は入力データのサイズとスケールにある程度敏感であり、前処理手順が必要になる場合があります。

ローカル特徴抽出: CNN はローカル特徴の抽出には優れていますが、グローバルなコンテキスト情報を取得するのが難しい場合があります。

...