Anthropic выпустила FlashProve в опенсорс — инструмент для доказуемого инференса
Anthropic опубликовала в опенсорс прототип открытого криптографического протокола FlashProve, позволяющий проверить, что ответ сгенерировала именно заявленная модель, без доступа к её весам.
Anthropic выпустила FlashProve в опенсорс — инструмент для доказуемого инференса.
По сути, это прототип открытого криптографического протокола, через который любой проверяющий без доступа к весам может убедиться, что ответ выдала именно та модель, которая была заявлена провайдером.
Такая функция нужна, например, чтобы проверять, что роутинг-сервис не подменяет модель на более дешёвую, или что модель в контуре компании не была заменена злоумышленниками.
Механизм работает так: провайдер заранее публикует цифровой отпечаток своих весов, а к каждому ответу затем прикладывает файл-доказательство. Совпадение этого файла и отпечатка означает подлинность модели, и проверить его можно на обычном компьютере без GPU и весов. Доказательство весит около 19 МБ на запрос в 1024 токена, а проверка занимает около 17 секунд. Это всё ещё значительно дороже обычного инференса, но для сравнения предыдущий результат составлял около 14 часов проверки и доказательство на 93 ГБ.
Алгоритм основан на методе zkSNARK. Он известен достаточно давно, но заслуга Anthropic именно в том, что они смогли оптимизировать его до практичных скоростей для моделей до 400B параметров. В статье Anthropic написано, что ускорением и оптимизацией в основном занимался Claude.
Возможно, это шаг к детекторам происхождения текстов.
Почему это важно
АналитикаДоказуемый инференс может сделать маршрутизацию моделей и корпоративные развёртывания проверяемыми, снижая риск незаметной подмены модели и помогая верифицировать происхождение ответов ИИ-систем.
Обсудить в сообществе
Делитесь опытом и мыслями с ИИ-разработчиками
Связанные материалы экосистемы
Практические гайды, терминология и агентские скиллы
Anthropic показала прототип FlashProve для доказуемого инференса
Anthropic представила прототип системы FlashProve, который позволяет математически доказать, что ответ был сгенерирован конкретной ИИ-моделью, без раскрытия её весов.
Claude Haiku (Скоростные компактные модели Anthropic)
Самая компактная и быстрая модель в линейке Anthropic. Создана для молниеносных ответов, массовой классификации текстов, извлечения данных и агентской маршрутизации при минимальных затратах.
Claude Opus (Флагманская интеллектуальная модель Anthropic)
Самая мощная тяжеловесная модель в семействе Anthropic. Создана для сложного философского и научного анализа, написания многослойных текстов и глубокого понимания контекста.
Anthropic тратит на внутреннее использование Claude больше, чем на сотрудников
В заявке на IPO Anthropic раскрыла, что расходы на внутреннее использование Claude превысили зарплаты сотрудников, если считать их по клиентским тарифам.