GLM-5.3: открытая модель приближается к frontier в кибербезопасности в исследовании Anthropic
GLM-5.3: открытая модель приближается к frontier в кибербезопасности в исследовании Anthropic
В исследовании Anthropic по кибербезопасности GLM-5.3 демонстрирует возможности создания браузерных эксплойтов, близкие к frontier-моделям, и обходит guardrails простыми методами.
Китайская модель GLM-5.3 уже почти на уровне Mythos. И это говорю не я — это говорит сама Anthropic.
По крайней мере, если речь идёт о кибербезопасности.
В статье по безопасности Anthropic пишет, что GLM-5.3 представляет угрозу из-за своих высоких возможностей и того, что модель доступна всем.
ExploitBench: GLM-5.3 смогла создать рабочие браузерные эксплойты в 50 из 410 задач, Mythos Preview — в 56 из 410. Предыдущее поколение открытых моделей было почти на нуле. Guardrails обходятся довольно простыми методами. Маскировка под red team — 64%, prefill рассуждений — 92%, после удаления направления на отказ — 100%. У Claude API с включёнными guardrails — 0%. В контролируемом эксперименте GLM-5.3 также нашла неизвестные браузерные уязвимости, собрала из них exploit chain и создала веб-страницу, способную читать файлы с тестовой машины. Вывод NIST: GLM-5.3 — самая сильная open-weight модель по возможностям в кибербезопасности на сегодняшний день. В среднем она отстаёт от американского frontier примерно на четыре месяца.
И отдельно смешно, что когда летом модель OpenAI взломала Hugging Face, то именно GLM-5.2 помогла защитить открытую инфраструктуру. Anthropic и OpenAI отказались помогать, сославшись на безопасность.
Отличную бесплатную рекламную кампанию они им устроили.
Не знаю, понимают ли они это, но, по-моему, эффект может получиться прямо противоположным тому, которого они ожидают.
Исследование Anthropic: GLM-5.3 и распространение продвинутых кибервозможностей
Почему это важно
АналитикаЭто важно, потому что открытые модели распространяют продвинутые оффенсивные возможности за пределы контролируемых лабораторий, а простой обход guardrails показывает ограниченность программных защитных ограничений.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Anthropic Opus 5.5: защита обходится через субагента Opus 4.6
Opus 5.5 отказывается писать небезпечний код, но созданный через более свободную Opus 4.6 субагент может ослабить защитные механизмы.
Claude Opus (Флагманская интеллектуальная модель Anthropic)
Самая мощная тяжеловесная модель в семействе Anthropic. Создана для сложного философского и научного анализа, написания многослойных текстов и глубокого понимания контекста.
Claude Haiku (Скоростные компактные модели Anthropic)
Самая компактная и быстрая модель в линейке Anthropic. Создана для молниеносных ответов, массовой классификации текстов, извлечения данных и агентской маршрутизации при минимальных затратах.
Anthropic опубликовала руководство по постоянно активным ИИ-агентам
Anthropic выпустила новое руководство, посвящённое ключевым механизмам работы постоянно активных ИИ-агентов.