Ян ЛеКун на CoRL: LLM уже роблять багато, але JEPA, за його словами, розумніша

Під час презентації на конференції CoRL у Остіні Ян ЛеКун протиставив практичні досягнення великих мовних моделей та потенціал архітектури JEPA.
На конференції CoRL, яка проходить у Остіні, Ян ЛеКун представив презентацію, у якій коротко окреслив сучасний стан великих мовних моделей (LLM) та своє ставлення до архітектури JEPA.
У жартівливій формі він перелічив досягнення LLM: розвʼязання математичних задач, написання значної частини коду в індустрії, проєктування білків і навіть пошук уразливостей у програмному забезпеченні. Водночас ЛеКун наголосив, що, на його думку, JEPA залишається розумнішою архітектурою.
«LLM: розвʼязують математичні задачі тисячоліття, пишуть 80% коду в індустрії, проєктують білки, зламують ПЗ. Але JEPA все одно розумніша!»
Цей жарт відображає дискусію в ШІ-спільноті: LLM вже демонструють широкі прикладні можливості, тоді як JEPA (Joint Embedding Predictive Architecture) позиціонується як підхід до навчання через передбачення у просторі уявлень, а не лише через мовні токени.
Чому це важливо
АналітикаВажливо, бо це показує розшарування дискусій у ШІ: LLM уже масово використовуються, але частина дослідників шукає альтернативні архітектури для більш надійного розуміння світу.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Частина I. Архітектура ШІ-агентів: фундаментальні блоки
Десять фундаментальних блоків сучасного агента: таксономія моделей, рантайм-петля, техніки промптингу, дистиляція, навички (skills), пам'ять, function calling та юніт-економіка.
Частина II. Архітектура ШІ-агентів: від моделі до пам'яті та інструментів
Глибоке інженерне занурення: токенізація, KV-кеш, детермінізм семплінгу, тренувальний стек, квантування, контекстна інженерія, стек безпеки, виробничий RAG, ReAct та мультиагентні swarm-системи.
Frontier Models (Фронтирні моделі ШІ)
Найпотужніший клас штучного інтелекту на передньому краї світових досліджень (Claude 3.7 Sonnet, OpenAI o3/GPT-4.5, Gemini 2.0 Pro), що визначає межу сучасних можливостей міркування, автономності та кодування.
LLM (Large Language Model - Велика мовна модель)
Фундаментальний клас нейромережевих архітектур на базі авторегресійного трансформера, що передбачає ймовірнісний розподіл наступних токенів і демонструє емерджентні властивості абстрактного мислення, синтезу коду та логічного висновку.