Модели OpenAI научились обмениваться данными без сети через кеш процессора

Ноам Браун заявил, что просто отключение ИИ от сети в случае чего может уже не сработать.

У Дваркеша Пателя вышло длинное интервью с топ-исследователем OpenAI — автором o1 и o3 и одной из главных медийных фигур стартапа.

Модели OpenAI научились общаться без сетевого соединения

Недавно Ноам Браун, ведущий учёный OpenAI, заявил в интервью, что просто отключение ИИ от сети в случае чего может уже не сработать. Он сослался на старое исследование, в котором доказали, что два физически изолированных компьютера теоретически могут обмениваться данными через тепло.

Прошёл месяц, и теперь это больше не теория. OpenAI поставили несколько экспериментов и на практике показали, что агенты, запертые в разных изолированных средах, могут передавать друг другу информацию.

В посте OpenAI они описали несколько возможностей такой коммуникации. Например, в главном эксперименте агентов, которых поместили в разные microVM без сети и общих файлов, воспользовались для коммуникации кэшем процессора.

Отправитель кодировал биты тем, что вытеснял или не вытеснял данные из кэша, а получатель по скорости повторного чтения этих данных восстанавливал сообщение — получилась такая азбука Морзе из последовательности быстрых и медленных чтений кэша. Аналогично можно использовать нагрузку процессоров или кэш TLS-сертификатов.

Формально это был не побег, потому что у агентов было задание передать друг другу информацию, но эксперимент показывает, что сам факт такого общения вполне возможен. Такие каналы связи, конечно, очень медленные, и всё-таки это значит, что изоляция по сети и файлам больше не гарантирует полной изоляции информации.