Эмоциональный ландшафт языковых моделей: новые открытия от GoodFire
Эмоциональный ландшафт языковых моделей: новые открытия от GoodFire
Исследователи из GoodFire обнаружили, что языковые модели, такие как LLama, не просто обрабатывают текст, но и 'чувствуют' эмоции во время чтения.
www.goodfire.ai/research/stories-in-space#
Исследователи из GoodFire продолжают изучать так называемую геометрию LLM. Недавно они показали, что мысли моделей организованы в виде определенных форм. Например, числа – это круги, и складывая одно число с другим, LLM на самом деле суммируют множество бубликов.
Теперь они обнаружили новые интересные детали. Оказывается, внутри моделей существует целый ландшафт эмоциональных состояний.
Ученые взяли LLama, давали ей читать рассказы и наблюдали за состоянием активаций. Во время чтения модель словно перемещается по многомерному пространству состояний, 'чувствуя' те или иные эмоции в зависимости от того, что происходит в тексте в данный момент.
Если визуализировать соответствующие различным эмоциям состояния модели, то получается структура, очень похожая на классическую психологическую модель эмоций человека. Например, радость находится рядом с интересом, страх и гнев имеют схожую высокую интенсивность и т.д.
Также по этой карте можно прогнозировать дальнейшие ответы модели. И если искусственно подталкивать активации в направлении определенной эмоции, настроение и суть генераций меняются.
Почему это важно
АналитикаЭти открытия могут изменить наше понимание того, как языковые модели взаимодействуют с текстом, открывая новые возможности для их использования в эмоционально чувствительных приложениях.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Джейлбрейк (Jailbreak) языковых моделей
Техника социальной инженерии в области искусственного интеллекта, заставляющая языковую модель обойти заложенные создателями этические ограничения, фильтры безопасности (RLHF) и запрещенные темы через ролевые игры, гипотетические сценарии или парадоксы.
Claude Sonnet 4.6 vs GPT-5.5 vs Gemini 3.1 Pro: сравнение моделей 2026
Каждые несколько недель выходит новая модель, и каждый раз те же вопросы: стоит ли переходить? что изменилось? за что платить?
ТОП-5 ИИ-инструментов месяца: новые возможности для агентов и разработчиков
Обзор 5 инновационных ИИ-инструментов месяца: единая точка доступа Monid (1800+ API), виртуальные номера Dial, графовая память HydraDB OSS, общее полотно Doop и голосовой тренер Orato.
Эпистемическая Зависимость от Моделей ИИ
Психологическая и когнитивная неспособность разработчика принять даже простое инженерное решение, выбрать название переменной или архитектурный подход без предварительного запроса и одобрения от ИИ.