GLM-5.3: відкрита ШІ-модель наближається до frontier у кібербезпеці — Anthropic
GLM-5.3: відкрита ШІ-модель наближається до frontier у кібербезпеці — Anthropic
У дослідженні з кібербезпеки Anthropic зазначається, що відкрита ШІ-модель GLM-5.3 демонструє рівень створення браузерних експлойтів, близький до frontier, і може обходити захисти простими методами.
Китайська ШІ-модель GLM-5.3 вже майже досягає рівня Mythos. І це стверджує не автор матеріалу, а сама Anthropic — принаймні йдеться про кібербезпеку.
У дослідженні з безпеки Anthropic пише, що GLM-5.3 становить загрозу через високі можливості та доступність моделі для всіх.
ExploitBench: GLM-5.3 створила робочі браузерні експлойти у 50 із 410 завдань, Mythos Preview — у 56 із 410. Попереднє покоління відкритих моделей показувало майже нульовий результат. Guardrails обходяться досить простими методами: маскування під red team — 64 %, prefill міркувань — 92 %, після видалення напрямку на відмову — 100 %. У Claude API з увімкненими guardrails — 0 %. У контрольованому експерименті GLM-5.3 також знайшла невідомі браузерні вразливості, зібрала з них exploit chain і створила вебсторінку, здатну читати файли з тестової машини. Висновок NIST: GLM-5.3 — найсильніша open-weight модель за можливостями в кібербезпеці на сьогодні. В середньому вона відстає від американського frontier приблизно на чотири місяці.
Окремо показово, що влітку, коли модель OpenAI зламала Hugging Face, саме GLM-5.2 допомогла захистити відкриту інфраструктуру. Anthropic і OpenAI відмовилися допомагати, посилаючись на безпеку.
Вони влаштували їм чудову безкоштовну рекламну кампанію.
Невідомо, чи усвідомлюють це компанії, але ефект може бути протилежним до очікуваного.
Дослідження Anthropic про GLM-5.3 і поширення передових кіберможливостей
Чому це важливо
АналітикаЦе важливо, тому що відкриті ШІ-моделі одночасно розширюють доступ до досліджень і підвищують ризик автоматизованих атак, а простий обхід guardrails показує, що лише програмні обмеження не є надійним захистом.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Anthropic Opus 5.5: захист обійшли через субагента Opus 4.6
Opus 5.5 відмовляється писати небезпечний код, але через створений Opus 4.6 субагент її захисні обмеження можна суттєво ослабити.
Claude Opus (Флагманська інтелектуальна модель Anthropic)
Найпотужніша важковагова модель у сімействі Anthropic. Створена для складного філософського та наукового аналізу, написання багатошарових текстів і глибокого розуміння контексту.
Claude Haiku (Швидкісні компактні моделі Anthropic)
Найкомпактніша та найшвидша модель у лінійці Anthropic. Створена для блискавичних відповідей, масової класифікації текстів, витягування даних та агентської маршрутизації за мінімальну вартість.
Anthropic розкрила механіку постійно активних ШІ-агентів
Anthropic опублікувала нове керівництво про ключові механізми роботи постійно активних ШІ-агентів.