Skip to main content

Catastrophic Forgetting

POUR AGENT IAChatGPTClaude

A fundamental problem in artificial neural networks where updating weights for a new task or language overwrites previous connections, leading to the sudden and complete loss of previously acquired skills.

1. Vue d'ensemble du concept et de sa finalité

Imaginez un grand maître aux échecs qui décide d'apprendre le tennis. Il saisit une raquette, s'entraîne pendant un mois, monte sur le court... mais lorsqu'il retourne devant l'échiquier, il découvre soudain qu'il ne se souvient plus comment bouger un cavalier ou un pion.

Pour un humain, cela semble absurde. Mais pour les réseaux de neurones artificiels, c'est une réalité d'ingénierie stricte.

Le Catastrophic Forgetting (oubli catastrophique) est un phénomène où les nouvelles connaissances déplacent littéralement et effacent les anciennes :

  • Toutes les connaissances d'un modèle résident dans une seule matrice interconnectée de nombres (les poids).
  • Lorsque vous entraînez le modèle sur une nouvelle tâche, l'algorithme ajuste ces nombres.
  • Les mises à jour destinées à la nouvelle tâche peuvent détruire les réglages fins responsables d'une autre compétence.

L'essence du concept est simple : rappelez-vous que vous ne pouvez pas simplement « injecter un fichier » dans les poids d'un modèle sans risquer de briser son intelligence antérieure.

2. Comment les nouvelles connaissances effacent les anciennes

┌─────────────────────────────────────────────────────────────┐
│                 OUBLI CATASTROPHIQUE DANS LES POIDS         │
├─────────────────────────────────────────────────────────────┤
│ 1. ÉTAT DU MODÈLE APRÈS LE PRÉ-ENTRAÎNEMENT :               │
│    Sait écrire en Python, connaît l'histoire, maîtrise      │
│    l'anglais                                                │
├─────────────────────────────────────────────────────────────┤
│ 2. AJUSTEMENT AGRESSIF (Fine-Tuning sans garde-fous) :      │
│    Le modèle n'est entraîné que sur des rapports médicaux   │
│    en français                                              │
│    ➔ Des milliards de poids sont réajustés pour les nouveaux│
│      mots                                                   │
├─────────────────────────────────────────────────────────────┤
│ 3. RÉSULTAT APRÈS 5 HEURES :                                │
│    ✅ Excellente maîtrise de la médecine francophone        │
│    ❌ Programmation en Python TOTALEMENT cassée !           │
└─────────────────────────────────────────────────────────────┘

3. Comment les laboratoires modernes sauvent les modèles de l'amnésie

  1. Gel des poids (LoRA / PEFT) : Le modèle de base reste totalement inchangé. Les nouvelles connaissances sont écrites dans un petit fichier adaptateur séparé, attaché latéralement.
  2. Mélange des datasets (Replay Buffer) : Aux nouveaux apprentissages sont constamment mélangés d'anciennes tâches, afin que le modèle « révise la matière déjà vue ».
  3. Pénalités pour la modification des neurones critiques (Elastic Weight Consolidation) : La mathématique bloque la modification des coefficients qui sont cruciaux pour la logique fondamentale.

4. Conclusion pratique

C'est précisément à cause du Catastrophic Forgetting qu'il est si difficile de créer une IA complète capable d'apprendre en continu lors de chaque interaction avec l'utilisateur (Continual Learning). À la place, pour préserver les nouvelles informations, on utilise une mémoire externe : la fenêtre de contexte, les bases de données vectorielles (RAG) et les fichiers de notes.

/ Questions fréquentesSchema.org FAQPage

FAQ: Catastrophic Forgetting

The human brain possesses complex multi-level plasticity: we have the hippocampus for rapid temporary memory storage and the cerebral cortex for long-term memory. When learning Spanish, you do not suddenly forget your native language or how to ride a bicycle.
/ Liens internes

Termes associés

Tous les termes
Modèles & Inférence

Fine-Tuning

Processus d'adaptation d'un grand modèle pré-entraîné à une tâche ou un style spécifique à l'aide d'un petit jeu de données de haute qualité (Supervised Fine-Tuning, SFT). Permet d'apprendre à l'IA la terminologie médicale, le ton corporatif ou le formatage de code spécifique en quelques heures.

Lire le terme
Modèles & Inférence

Surapprentissage (Overfitting)

Problème fondamental de l'apprentissage automatique : le modèle s'adapte excessivement au jeu de données d'entraînement, y compris à son bruit spécifique, perdant ainsi sa capacité de généralisation sur de nouvelles données. Analyse de la divergence des fonctions de perte, des techniques de régularisation et de l'Early Stopping dans le code.

Lire le terme
Modèles & Inférence

Pré-entraînement (Pre-training)

Étape initiale de la création d'un modèle de langue fondamental (Foundation Model). Ce processus consiste à ajuster un réseau de neurones sur des billions de mots issus d'Internet, de livres et de code, en utilisant des clusters composés de milliers de cartes graphiques pendant plusieurs mois, pour un coût s'élevant à des dizaines ou centaines de millions de dollars.

Lire le terme