Galerie de cartes mentales Analyse de réseau classique
Les fonctionnalités détaillées de certains réseaux classiques sont présentées et les connaissances d'AlexNet, ZLNet, VGG, GoogleNet et resnet sont partagées. Tout le monde est invité à apprendre.
Modifié à 2023-07-27 22:46:54Cent ans de solitude est le chef-d'œuvre de Gabriel Garcia Marquez. La lecture de ce livre commence par l'analyse des relations entre les personnages, qui se concentre sur la famille Buendía et raconte l'histoire de la prospérité et du déclin de la famille, de ses relations internes et de ses luttes politiques, de son métissage et de sa renaissance au cours d'une centaine d'années.
Cent ans de solitude est le chef-d'œuvre de Gabriel Garcia Marquez. La lecture de ce livre commence par l'analyse des relations entre les personnages, qui se concentre sur la famille Buendía et raconte l'histoire de la prospérité et du déclin de la famille, de ses relations internes et de ses luttes politiques, de son métissage et de sa renaissance au cours d'une centaine d'années.
La gestion de projet est le processus qui consiste à appliquer des connaissances, des compétences, des outils et des méthodologies spécialisés aux activités du projet afin que celui-ci puisse atteindre ou dépasser les exigences et les attentes fixées dans le cadre de ressources limitées. Ce diagramme fournit une vue d'ensemble des 8 composantes du processus de gestion de projet et peut être utilisé comme modèle générique.
Cent ans de solitude est le chef-d'œuvre de Gabriel Garcia Marquez. La lecture de ce livre commence par l'analyse des relations entre les personnages, qui se concentre sur la famille Buendía et raconte l'histoire de la prospérité et du déclin de la famille, de ses relations internes et de ses luttes politiques, de son métissage et de sa renaissance au cours d'une centaine d'années.
Cent ans de solitude est le chef-d'œuvre de Gabriel Garcia Marquez. La lecture de ce livre commence par l'analyse des relations entre les personnages, qui se concentre sur la famille Buendía et raconte l'histoire de la prospérité et du déclin de la famille, de ses relations internes et de ses luttes politiques, de son métissage et de sa renaissance au cours d'une centaine d'années.
La gestion de projet est le processus qui consiste à appliquer des connaissances, des compétences, des outils et des méthodologies spécialisés aux activités du projet afin que celui-ci puisse atteindre ou dépasser les exigences et les attentes fixées dans le cadre de ressources limitées. Ce diagramme fournit une vue d'ensemble des 8 composantes du processus de gestion de projet et peut être utilisé comme modèle générique.
Analyse de réseau classique
AlexNet
structure
8 étages au total
5 couches convolutives
3 couches de couches entièrement connectées
effet
Apprenez les caractéristiques structurelles à partir de données significatives pour la classification
Décrire les informations structurelles dans l'image d'entrée
Les résultats de la description sont stockés dans 256 cartes de réponse de fonctionnalités 6x6
ZLNet
Même structure qu'AlexNet
Améliorer
Changer le noyau de convolution précédent pour une taille plus petite
Augmentez la taille du pas pour extraire avec succès les fonctionnalités
Augmenter le nombre de noyaux de convolution tardifs
VGG
Réseau neuronal à 16 couches
13 couches convolutives
3 couches entièrement connectées
Améliorer
Utilisez des noyaux de convolution 3x3 plus petits en série pour obtenir un champ de réception plus grand
Une profondeur plus profonde, une non-linéarité plus forte et moins de paramètres de réseau
Supprimer la couche LRN d'AlexNet
Résumer
Avantages du petit noyau de convolution
Plusieurs noyaux de convolution de petite taille connectés en série peuvent obtenir le même champ récepteur que les noyaux de convolution de grande taille et nécessitent moins de paramètres d'entraînement.
Raisons de la convolution vers 512
Il existe de nombreux paramètres pour collecter et exprimer au maximum les fonctionnalités
S'il y a trop de paramètres, il sera facile de surajuster et ce ne sera pas adapté à l'entraînement.
GoogleNet
22ème étage
Innovation
Proposer la structure de démarrage, qui peut conserver des informations plus caractéristiques du signal d'entrée
Ajoutez une couche de goulot d'étranglement et modifiez le nombre de canaux de convolution
Supprimez la couche entièrement connectée et utilisez un pooling moyen, ce qui donne seulement 5 millions de paramètres, soit 12 fois moins qu'AlexNet.
Un classificateur auxiliaire est introduit au milieu du réseau pour surmonter le problème de gradient de disparition lors de la formation.
Résumer
La différence entre la vectorisation de pooling moyen et la vectorisation d'expansion directe
La valeur de chaque position sur la carte de réponse des caractéristiques reflète la similitude entre la structure de la position correspondante dans l'image et la structure sémantique enregistrée par le noyau de convolution.
Le pooling moyen perd les informations de localisation spatiale des structures sémantiques
Ignorer les informations de position de la structure sémantique contribue à améliorer l'invariance de traduction des caractéristiques extraites par la couche convolutive.
resnet
Approfondir les couches réseau
Les réseaux plus profonds semblent inférieurs aux réseaux moins profonds
raison
Pendant le processus de formation, les informations positives et négatives du réseau ne circulent pas correctement et le réseau n'est pas entièrement formé.
innovation
Module résiduel proposé
En empilant des modules résiduels, des réseaux neuronaux de profondeur arbitraire peuvent être construits sans « dégradation ».
normalisation des lots proposée
Luttez contre la disparition du gradient et réduisez la dépendance à l’initialisation du poids pendant l’entraînement en réseau.
Proposer une méthode d'initialisation pour la fonction d'activation de ReLU
Raisons de la bonne performance du réseau résiduel
peut être considéré comme un modèle intégré