Anthropic випустила FlashProve в опенсорс — інструмент для доказуваного інференсу
Anthropic опублікувала в опенсорс прототип відкритого криптографічного протоколу FlashProve, який дозволяє перевірити, чи відповідь згенерувала саме заявлена модель, без доступу до її ваг.
Anthropic випустила FlashProve в опенсорс — інструмент для доказуваного інференсу.
По суті це прототип відкритого криптографічного протоколу, за допомогою якого будь-який перевіряючий без доступу до ваг моделі може переконатися, що відповідь згенерувала саме та модель, яку заявив провайдер.
Така функція потрібна, наприклад, щоб перевіряти, чи роутинг-сервіс не підміняє модель на дешевшу, або чи модель у корпоративному контурі не була замінена зловмисниками.
Механізм працює так: провайдер заздалегідь публікує цифровий відбиток своїх ваг, а до кожної відповіді додає файл-доказ. Збіг цього файла і відбитку означає автентичність моделі, і перевірити його можна на звичайному комп’ютері без GPU та ваг. Доказ важить близько 19 МБ на запит у 1024 токени, а перевірка займає близько 17 секунд. Це досить значно дорожче за звичайний інференс, але для порівняння: попередній результат вимагав близько 14 годин перевірки та доказу на 93 ГБ.
Алгоритм базується на методі zkSNARK. Він відомий досить давно, але заслуга Anthropic у тому, що вдалося оптимізувати його до практичних швидкостей для моделей до 400 млрд параметрів. У статті Anthropic зазначено, що прискоренням та оптимізацією переважно займався Claude.
Можливо, це крок до детекторів походження текстів.
Чому це важливо
АналітикаЦе може зробити маршрутизацію моделей і корпоративні розгортання перевірюваними, зменшуючи ризик тихої підміни моделі та допомагаючи верифікувати походження відповідей ШІ-систем.
Обговорити новину у спільноті
Діліться своїм досвідом та думками з ШІ-розробниками
Пов'язані матеріали екосистеми
Практичні гайди, термінологія та агентські скіли
Anthropic представила FlashProve для доказового інференсу ШІ
Anthropic показала прототип системи FlashProve, який дозволяє математично підтвердити, що відповідь згенерована конкретною ШІ-моделлю, без розкриття її ваг.
Claude Haiku (Швидкісні компактні моделі Anthropic)
Найкомпактніша та найшвидша модель у лінійці Anthropic. Створена для блискавичних відповідей, масової класифікації текстів, витягування даних та агентської маршрутизації за мінімальну вартість.
Claude Opus (Флагманська інтелектуальна модель Anthropic)
Найпотужніша важковагова модель у сімействі Anthropic. Створена для складного філософського та наукового аналізу, написання багатошарових текстів і глибокого розуміння контексту.
AI Radar: GPT-6.1 Terra, Gemini 4 Carbon, Mistral Large 4 і зміни тарифів OpenAI та Anthropic
Огляд свіжих новин AI: оновлення великих мовних моделей, зміни підписок OpenAI та Anthropic, а також нові world-моделі, відеогенератори й корпоративні фінансові деталі.