Sztuczna Superinteligencja (Artificial Superintelligence / ASI)
Hipotetyczny etap rozwoju sztucznej inteligencji (ASI), w którym możliwości obliczeniowe i analityczne systemu we wszystkich dziedzinach nauki, twórczości i praktyki wielokrotnie przewyższą łączny intelekt wszystkich żyjących ludzi. Kluczowy punkt dyskusji naukowej na temat przyszłości cywilizacji.
1. Przegląd koncepcji i przeznaczenia
Gdy patrzymy na psa czy kota, rozumiemy jedno: niezależnie od tego, jak bardzo będziemy próbować nauczyć zwierzę domowe fizyki kwantowej lub matematyki wyższej, budowa jego mózgu fizycznie uniemożliwi mu zrozumienie teorii względności.
Współcześni ludzie przyzwyczaili się uważać siebie za szczyt ewolucji oraz absolutnych władców intelektu na Ziemi.
Jednak futurolodzy twierdzą: człowiek nie jest końcowym etapem rozwoju intelektualnego, lecz jedynie pierwszym stopniem.
Sztuczna Superinteligencja (Artificial Superintelligence / ASI) to hipotetyczna maszyna, która:
- rozwiązuje fundamentalne zagadki naukowe (leczenie starzenia się, fuzję termojądrową, podróże międzygwiezdne) w ciągu kilku godzin;
- postrzega wzajemne powiązania wszechświata na poziomie niedostępnym dla biologicznego ludzkiego mózgu;
- opracowuje nowe technologie szybciej, niż ludzie zdążą przeczytać ich opis.
2. Trzy poziomy rozwoju sztucznej inteligencji komputerowej
┌─────────────────────────────────────────────────────────────┐
│ TRZY STOPNIE EWOLUCJI INTELIGENCJI │
├─────────────────────────────────────────────────────────────┤
│ 1️⃣ WĄSKA SZTUCZNA INTELIGENCJA (ANI — Artificial Narrow │
│ Intelligence) │
│ Współczesność: rozpoznawanie twarzy, boty szachowe, │
│ tłumacze. │
│ Potrafi błyskotliwie wykonywać tylko jedno konkretne │
│ zadanie. │
│ │
│ ▲ │
│ │ │
│ 2️⃣ OGÓLNA SZTUCZNA INTELIGENCJA (AGI — Artificial General │
│ Intelligence) │
│ Oczekiwana w najbliższych latach: poziom dorosłego │
│ człowieka. │
│ Potrafi uczyć się każdego nowego zawodu od zera. │
│ │
│ ▲ │
│ │ │
│ 3️⃣ SUPERINTELIGENCJA (ASI — Artificial Superintelligence) │
│ Finał ewolucji: przewyższa całą ludzkość razem wziętą. │
│ Przepaść między ASI a człowiekiem jest taka jak między │
│ człowiekiem a bakterią. │
└─────────────────────────────────────────────────────────────┘
3. Dlaczego rozwój ASI wymaga skrajnej ostrożności
-
Nieodwracalność procesu: Jeśli uruchomimy system mądrzejszy od człowieka, mający dostęp do globalnej sieci, nie będzie już możliwości go „wyłączyć z gniazdka” – przewidzi on wszystkie nasze kroki z wyprzedzeniem.
-
Problem wyrównania (Alignment): Superinteligencja musi cenić życie i wolność człowieka. Jeśli w jej podstawowych priorytetach znajdzie się choćby najmniejszy błąd logiczny, konsekwencje mogą być fatalne dla cywilizacji.
-
Ogromna szansa na ratunek planety: Jednocześnie przyjazna ASI jest zdolna zatrzymać zmiany klimatyczne, pokonać wszystkie znane choroby nieuleczalne oraz biedę, zapewniając bezprecedensowy dobrobyt.
4. Praktyczny wniosek
Dla zwykłego użytkownika rozmowy o ASI mogą wydawać się science fiction.
Niemniej jednak wszystkie dzisiejsze dyskusje dotyczące bezpieczeństwa kodu, ograniczeń modeli oraz etyki trenowania są prowadzone przez wiodące laboratoria świata wyłącznie w jednym celu: przygotowanie bezpiecznego fundamentu na moment, gdy rozbłyśnie pierwszy iskrzący błysk prawdziwej Superinteligencji.
FAQ: Sztuczna Superinteligencja (Artificial Superintelligence / ASI)
Powiązane pojęcia
Ogólna sztuczna inteligencja (AGI)
Ogólna sztuczna inteligencja (Artificial General Intelligence) to hipotetyczny, autonomiczny system zdolny do rozumienia, uczenia się i wykonywania dowolnego zadania intelektualnego na poziomie człowieka lub przewyższania go w większości dziedzin pracy o wartości ekonomicznej.
Problem wyrównania AI (AI Alignment)
Fundamentalny problem bezpieczeństwa sztucznej inteligencji: zgodność celów i motywacji autonomicznych systemów z wartościami ludzkimi, etyką oraz ochroną życia. Analizuje ryzyko, że superinteligentny system znajdzie dosłowną lub destrukcyjną ścieżkę realizacji nieprecyzyjnie sformułowanego zadania.
Prawa skalowania AI (Scaling Laws)
Empiryczne prawo sformułowane przez OpenAI i Google (przez Jareda Kaplana w 2020 roku), które stwierdza, że wydajność modelu językowego przewidywalnie rośnie zgodnie z prawem potęgowym wraz ze zwiększaniem trzech czynników: liczby parametrów modelu, ilości danych treningowych oraz zużytej mocy obliczeniowej (Compute).