Емоційний ландшафт мовних моделей: нові відкриття від GoodFire
Емоційний ландшафт мовних моделей: нові відкриття від GoodFire
Дослідники з GoodFire виявили, що мовні моделі, такі як LLama, не лише обробляють текст, а й 'відчувають' емоції під час читання.
www.goodfire.ai/research/stories-in-space#
Дослідники з GoodFire продовжують вивчати так звану геометрію LLM. Нещодавно вони показали, що думки моделей організовані у вигляді певних форм. Наприклад, числа – це кола, і складаючи одне число з іншим, LLM насправді сумують безліч бубликів.
Тепер вони виявили нові цікаві деталі. Виявляється, всередині моделей існує цілий ландшафт емоційних станів.
Вчені взяли LLama, давали їй читати оповідання і спостерігали за станом активацій. Під час читання модель ніби переміщується по багатовимірному простору станів, "відчуваючи" ті чи інші емоції залежно від того, що відбувається в тексті в даний момент.
Якщо візуалізувати відповідні різним емоціям стани моделі, то виходить структура, дуже схожа на класичну психологічну модель емоцій людини. Наприклад, радість знаходиться поруч з інтересом, страх і гнів мають схожу високу інтенсивність тощо.
Також за цією картою можна прогнозувати подальші відповіді моделі. І якщо штучно підштовхувати активації в напрямку певної емоції, настрій і суть генерацій змінюються.
Чому це важливо
АналітикаЦі відкриття можуть змінити наше розуміння того, як мовні моделі взаємодіють з текстом, відкриваючи нові можливості для їх використання в емоційно чутливих додатках.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Джейлбрейк (Jailbreak) мовних моделей
Техніка соціальної інженерії щодо штучного інтелекту, яка змушує мовну модель обійти закладені творцями етичні обмеження, фільтри безпеки (RLHF) та заборонені теми через рольові ігри, гіпотетичні сценарії або парадокси.
Claude Sonnet 4.6 vs GPT-5.5 vs Gemini 3.1 Pro: порівняння моделей 2026
Кожні кілька тижнів виходить нова модель, і щоразу ті самі запитання: чи варто переходити? що змінилося? за що платити?
GPT-6 Astra: гайд по новій моделі OpenAI
Повний огляд флагманської моделі GPT-6 Astra: агентна архітектура, можливості Computer Use, кодинг у Codex, бенчмарки кібербезпеки, тонкощі промптингу та гайд із міграції API.
Ланцюжки перемикання моделей (Model Fallback)
Архітектурний патерн відмовостійкості (High Availability) для систем штучного інтелекту. Якщо основний провайдер моделі повертає помилку таймауту, перевищення ліміту (Rate Limit 429) або падає (Error 500), система непомітно для користувача перемикає запит на резервну модель-дублер.