Comprendre les réseaux de neurones

Un réseau de neurones est un modèle informatique capable d'apprendre des relations complexes à partir de données. Il peut notamment reconnaître un objet dans une image, identifier un mot dans un enregistrement sonore ou analyser le contenu d'un texte.

Son nom vient de son organisation en petites unités de calcul appelées neurones artificiels. Ces unités sont reliées entre elles et organisées en plusieurs couches. Malgré cette appellation, leur fonctionnement reste très différent de celui d'un cerveau humain.

Le neurone artificiel traite des informations

Un neurone artificiel reçoit plusieurs valeurs. Dans une image, ces valeurs peuvent représenter l'intensité de différents pixels. Dans un autre contexte, elles peuvent correspondre à un âge, une température ou une mesure financière.

Chaque valeur reçoit un poids qui indique son importance. Le neurone combine ensuite ces informations, ajoute éventuellement une valeur appelée biais, puis transmet le résultat à une fonction d'activation.

Les poids et les biais constituent les paramètres du réseau. Ils sont ajustés pendant l'entraînement afin d'améliorer les prédictions du modèle.

Les neurones sont organisés en couches

Chaque couche construit une représentation plus complexe

Les informations traversent le réseau de la première couche jusqu'à la dernière. Chaque couche reçoit les résultats de la précédente, les transforme, puis les transmet à la suivante.

Cette succession permet au modèle de construire progressivement une représentation plus détaillée des données. Dans une image, une première couche peut repérer des contrastes. Une autre peut reconnaître des contours, puis des formes, avant qu'une couche plus profonde identifie un objet complet.

Le terme Deep Learning désigne précisément l'utilisation de réseaux possédant plusieurs couches de traitement. Plus un réseau est profond, plus il peut apprendre des relations complexes. Cela ne signifie toutefois pas qu'un plus grand nombre de couches produit automatiquement un meilleur modèle.

Le rôle des fonctions d'activation

Sans fonction d'activation, plusieurs couches successives se comporteraient essentiellement comme une seule transformation simple. Le réseau aurait alors des difficultés à représenter des relations complexes.

Une fonction d'activation transforme le résultat calculé par chaque neurone avant de le transmettre à la couche suivante. Elle introduit une forme de non-linéarité, indispensable pour reconnaître des structures qui ne suivent pas une relation simple.

La fonction ReLU est fréquemment utilisée. Elle conserve les valeurs positives et remplace les valeurs négatives par zéro. D'autres fonctions, comme sigmoid ou tanh, peuvent être choisies selon la tâche et la position de la couche dans le réseau.

Le réseau apprend en corrigeant ses paramètres

Pendant l'entraînement, le réseau produit une prédiction, puis la compare avec le résultat attendu. L'erreur obtenue est utilisée pour déterminer comment modifier les poids et les biais.

Cette correction est généralement réalisée par un mécanisme appelé backpropagation. L'erreur est propagée depuis la sortie vers les couches précédentes afin d'évaluer la contribution de chaque paramètre. Les paramètres sont ensuite ajustés pour réduire l'erreur lors des prochaines prédictions.

Ce processus est répété sur un grand nombre d'exemples. Le réseau développe ainsi progressivement des paramètres adaptés à la tâche demandée.

Un réseau de neurones ne reconnaît pas une structure comme le ferait une personne. Il calcule des relations statistiques apprises à partir des données d'entraînement.

Ses résultats dépendent donc de la qualité des données, de son architecture et de son entraînement. Un réseau très performant peut encore produire une prédiction incorrecte lorsqu'il rencontre une situation différente de celles observées pendant son apprentissage.