Katastroficzne zapominanie (Catastrophic Forgetting)
Fundamentalny problem sztucznych sieci neuronowych, polegający na tym, że podczas uczenia się nowego zadania lub języka zaktualizowane wagi nadpisują wcześniejsze połączenia, co prowadzi do nagłej i całkowitej utraty wcześniej nabytych umiejętności.
1. Przegląd koncepcji i przeznaczenia
Wyobraź sobie szachowego arcymistrza, który postanowił nauczyć się gry w tenisa. Bierze rakietę, trenuje przez miesiąc, wychodzi na kort... ale gdy wraca do szachownicy, nagle odkrywa, że całkowicie zapomniał, jak poruszają się konie czy pionki.
Dla człowieka brzmi to absurdalnie. Ale dla sztucznych sieci neuronowych jest to surowa rzeczywistość inżynierska.
Katastroficzne zapominanie (Catastrophic Forgetting) to zjawisko, w którym nowa wiedza dosłownie wypiera i wymazuje starą:
- Cała wiedza modelu to jedna tkanina wzajemnie powiązanych liczb (wag).
- Gdy uczysz model nowego zadania, algorytm koryguje te liczby.
- Aktualizacje pod kątem nowego zadania mogą zniszczyć subtelne ustawienia odpowiedzialne za inną umiejętność.
Istota koncepcji jest prosta: przypomnienie – nie można po prostu „dorzucić pliku” do wag modelu bez ryzyka złamania jego wcześniejszej inteligencji.
2. Jak nowa wiedza wymazuje starą
┌─────────────────────────────────────────────────────────────┐
│ KATASTROFICZNE ZAPOMINANIE W WAGACH │
├─────────────────────────────────────────────────────────────┤
│ 1. STAN MODELU PO PRE-TRAININGU: │
│ Potrafi pisać w Pythonie, zna historię, włada angielskim │
├─────────────────────────────────────────────────────────────┤
│ 2. AGRESYWNE DOSTRANIE (Fine-Tuning bez zabezpieczeń): │
│ Model jest trenowany wyłącznie na francuskich raportach │
│ medycznych │
│ ➔ Miliardy wag są przestrojone pod nowe słowa │
├─────────────────────────────────────────────────────────────┤
│ 3. WYNIK PO 5 GODZINACH: │
│ ✅ Doskonale orientuje się we francuskiej medycynie │
│ ❌ CAŁKOWICIE ZNISZCZONE programowanie w Pythonie! │
└─────────────────────────────────────────────────────────────┘
3. Jak współczesne laboratoria ratują modele przed amnezją
- Zamrażanie wag (LoRA / PEFT): bazowy model nie ulega żadnym zmianom. Nowa wiedza zapisywana jest w osobnym, mikroskopijnym pliku adaptera obok głównego modelu.
- Mieszanie zbiorów danych (Replay Buffer): do nowych lekcji stale dodawane są stare zadania, aby model „powtarzał przerobiony materiał”.
- Kary za zmianę ważnych neuronów (Elastic Weight Consolidation): matematyka blokuje modyfikację tych współczynników, które są krytyczne dla podstawowej logiki.
4. Praktyczny wniosek
Właśnie ze względu na katastroficzne zapominanie tak trudno jest stworzyć pełnoprawną AI, która uczy się w locie podczas każdej rozmowy z użytkownikiem (Continual Learning). Zamiast tego, do przechowywania nowych informacji wykorzystuje się pamięć zewnętrzną: okno kontekstowe, bazy danych wektorowych (RAG) oraz pliki notatek.
FAQ: Katastroficzne zapominanie (Catastrophic Forgetting)
Powiązane pojęcia
Fine-tuning (Dostrajanie)
Proces adaptacji już wytrenowanego dużego modelu językowego do wąsko specjalistycznego zadania lub stylu przy użyciu niewielkiego, wysokiej jakości zestawu danych (Supervised Fine-Tuning, SFT). Pozwala na nauczenie AI terminologii medycznej, korporacyjnego tonu komunikacji lub formatowania specyficznego kodu w ciągu kilku godzin.
Przeuczenie (Overfitting)
Fundamentalny problem uczenia maszynowego: model nadmiernie dopasowuje się do zestawu treningowego wraz z jego specyficznym szumem, tracąc zdolność do generalizacji (Generalization) na nowych danych. Analiza dywergencji funkcji straty, technik regularizacji oraz wczesnego zatrzymywania (Early Stopping) w kodzie.
Pre-training
The initial stage of creating a Foundation Model. It involves aligning a neural network with trillions of words from the internet, books, and code using clusters of thousands of GPUs over months, at costs ranging from tens to hundreds of millions of dollars.