Yann LeCun na CoRL: LLM-y już wiele potrafią, ale JEPA jest jego zdaniem mądrzejsza

Podczas prezentacji na konferencji CoRL w Austin Yann LeCun zestawił praktyczne osiągnięcia dużych modeli językowych z potencjałem architektury JEPA.
Na konferencji CoRL, która odbywa się obecnie w Austin, Yann LeCun przedstawił prezentację, w której skontrastował praktyczne osiągnięcia dużych modeli językowych (LLM) ze swoją oceną JEPA.
W żartobliwym tonie wyliczył, co LLM-y już robią: rozwiązują wielowiekowe problemy matematyczne, piszą dużą część kodu w branży, projektują białka i nawet wykrywają podatności w oprogramowaniu. Jednocześnie LeCun podkreślił, że jego zdaniem JEPA nadal jest mądrzejsza.
„LLM-y: rozwiązują matematyczne problemy na skalę tysiącleci, piszą 80% kodu w branży, projektują białka i wykrywają podatności w oprogramowaniu. Ale JEPA nadal jest mądrzejsza!”
Ten żart oddaje szerszą dyskusję w społeczności AI: LLM-y są już potężnymi narzędziami ogólnego przeznaczenia, podczas gdy JEPA (Joint Embedding Predictive Architecture) jest przedstawiana jako inna ścieżka uczenia się poprzez przewidywanie reprezentacji, a nie tylko tokenów tekstu.
Dlaczego to ważne
AnalizaTo ważne, ponieważ pokazuje debatę o tym, czy skalowanie LLM-ów wystarczy, czy potrzebne są nowe architektury, takie jak JEPA, aby AI była bardziej niezawodna.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Część I. Architektura agentów AI: fundamentalne elementy
Dziesięć fundamentalnych elementów współczesnego agenta: taksonomia modeli, pętla runtime, techniki promptowania, destylacja, umiejętności (skills), pamięć, wywoływanie funkcji oraz ekonomia jednostkowa.
Część II. Architektura agentów AI: od modelu do pamięci i narzędzi
Głęboka analiza inżynierska: tokenizacja, cache KV, determinizm próbkowania, stos treningowy, kwantyzacja, inżynieria kontekstu, stos bezpieczeństwa, produkcyjny RAG, ReAct oraz systemy multiagentowe typu swarm.
Modele Frontier
Najsilniejsza klasa sztucznej inteligencji na czele światowych badań (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), wyznaczająca granice współczesnych możliwości w zakresie rozumowania, autonomii i programowania.
LLM (Large Language Model - Duży Model Językowy)
Fundamentalna klasa architektur sieci neuronowych opartych na autoregresyjnym transformatorze, która przewiduje rozkład prawdopodobieństwa kolejnych tokenów i wykazuje emergentne właściwości abstrakcyjnego myślenia, syntezy kodu oraz wnioskowania logicznego.