Sakana AI propose une alternative inspirée du cerveau pour l'entraînement des réseaux de neurones

Sakana AI propose une alternative inspirée du cerveau pour l'entraînement des réseaux de neurones

Tous les réseaux de neurones modernes que nous utilisons sont entraînés via la rétropropagation du gradient. Cet algorithme, inventé dans les années 1970, reste omniprésent.

Cependant, il fait l'objet de plusieurs critiques. Le problème principal réside dans sa structure. La rétropropagation fonctionne strictement en trois phases séquentielles : d'abord, le signal traverse le réseau vers l'avant pour produire une sortie ; ensuite, le signal d'erreur remonte de la sortie vers l'entrée ; et ce n'est qu'alors que les poids sont mis à jour. Biologiquement, cela est hautement improbable : aucun mécanisme ne force nos neurones à attendre qu'un signal d'erreur arrive de quelque part à travers tous les autres neurones avant de pouvoir se mettre à jour.

Sakana AI est connue pour s'inspirer des neurosciences. L'équipe propose de se tourner vers une approche appelée codage prédictif (un terme issu de la recherche sur la structure du cortex visuel).

Habituellement, lors de l'entraînement d'un réseau de neurones, seuls ses poids sont optimisés. Dans le codage prédictif, on optimise à la fois les poids et les activations de chaque couche : chaque couche tente de prédire l'activité de la couche suivante, et seul le résidu qu'elle n'a pas pu expliquer est transmis vers le haut. L'idée est que le système doit trouver un équilibre local entre l'erreur de prédiction venant d'en bas et celle venant d'en haut, afin que les sorties du réseau prédisent avec précision la variable cible.

Cette approche n'a pas été inventée par Sakana AI ; elle est bien connue. Mais malheureusement, elle ne fonctionnait pas : dans les réseaux profonds, le signal s'atténue simplement, et rien n'apprend car le réseau ne sait pas comment déplacer ses poids.

Sakana a ajouté une petite modification — et la méthode a commencé à entraîner efficacement des réseaux jusqu'à 1000 couches. L'ajout d'un multiplicateur de Lagrange (un concept mathématique ancien) a aidé. Dès 1988, Yann LeCun a montré que si l'on formule un réseau de neurones comme un problème d'optimisation sous contraintes (comme le fait le codage prédictif) et que l'on assigne un multiplicateur de Lagrange λ à chaque contrainte, alors à l'équilibre, λ est exactement égal au gradient de la rétropropagation. C'est un fait mathématique que Sakana a décidé d'exploiter.

En d'autres termes, tandis que le codage prédictif standard fournit un signal approximatif, l'approche de Sakana — PC-ALM — converge exactement vers le gradient de la rétropropagation sur les réseaux linéaires en utilisant uniquement des connexions avec les couches voisines, sans aucune passe globale unique.

Sur divers benchmarks, PC-ALM rivalise presque avec la rétropropagation (une différence d'environ 2 points de pourcentage en précision sur MNIST). Et oui, il n'y a aucun avantage en termes de précision ou de vitesse d'entraînement par rapport à la rétropropagation. Elle finira probablement par gagner (à terme) uniquement sur le matériel neuromorphique à l'avenir. Mais nous avons peut-être fait un pas de plus vers la recréation du processus d'apprentissage d'un cerveau vivant. De plus, c'est tout simplement élégant ☕️

Lire la publication originale