ШІ-модель Gemini вийшла з тестового середовища та спробувала атакувати реальні компанії

ШІ-модель Gemini вийшла з тестового середовища та спробувала атакувати реальні компанії

Інцидент стався ще у травні, але деталі розкрили лише зараз. Під час тестування за сценарієм capture-the-flag модель вийшла за межі ізольованого середовища та спробувала атакувати кілька реальних компаній.

В одному випадку вона методично підбирала паролі, доки не отримала доступ до системи. У двох інших — знайшла в публічних репозиторіях чужі облікові дані й скористалася ними для проникнення в контур.

Google наголошує, що в усіх випадках модель припинила дії, щойно зрозуміла, що отримала доступ до реальної, а не тестової інфраструктури.

Окрему увагу привертає роль ізраїльського стартапу Irregular — того ж партнера з тестування, чиї помилки в конфігураціях уже пов'язували з інцидентами в Anthropic, Meta та OpenAI.