Google DeepMind выпустили AlphaProof Code – систему для формальной верификации кода

Google DeepMind выпустили AlphaProof Code – систему для формальной верификации кода

Обычно код тестируется эмпирически, то есть мы обкладываем его тестами, ревью и аудитами, которые проверяют программу на отдельные ошибки, и надеемся, что таким образом можем проверить все. А формальная верификация – это более строгий подход. Свойства программы записываются математически, и затем строится строгое доказательство, что код им соответствует при любых входных данных.

Это считается самым высоким уровнем гарантий в безопасности, но формальной верификацией тем не менее вообще мало кто занимается, потому что это очень дорого и очень долго, и способны на это только редкие узкие специалисты.

AlphaProof Code – это мультиагентная система, которая автоматизирует такую проверку. И Google утверждают, что это первый случай, когда ИИ используют для формальной верификации программы.

А именно, благодаря AlphaProof Code исследователи математически доказали, что код криптографического протокола Signal (на нем работает шифрование переписок в Signal и Google Messages) обеспечивает заявленные гарантии безопасности.

Для этого агенты на базе Gemini 4 Carbon написали более шести миллионов строк на Lean, а после этого сами провели аудит доказательства и отметили места, где нужен взгляд человека (таких оказалось около одного процента). На всю работу ушло четыре недели. У команд экспертов задача такого масштаба обычно занимает годы.

Авторы видят в формальном доказательстве основу для защиты других критически важных систем, и говорят, что это, возможно, единственный способ, который поможет противостоять скорости и масштабу современных кибератак.

https://deepmind.google/blog/introducing-alphaproof-code/