Anthropic opublikował FlashProve w open source — narzędzie do dowodzonej inferencji
Anthropic opublikował prototyp otwartego protokołu kryptograficznego FlashProve, który pozwala zweryfikować odpowiedź modelu bez dostępu do wag modelu.
Anthropic opublikował FlashProve w open source — narzędzie do dowodzonej inferencji.
W praktyce jest to prototyp otwartego protokołu kryptograficznego, który pozwala każdemu weryfikatorowi, bez dostępu do wag modelu, potwierdzić, że odpowiedź wygenerował dokładnie ten model, który zadeklarował dostawca.
Taka funkcja jest przydatna na przykład po to, aby sprawdzić, czy serwis routingu nie podmienia modelu na tańszy, albo czy model w środowisku firmowym nie został zastąpiony przez atakujących.
Mechanizm działa tak: dostawca z góry publikuje cyfrowy odcisk swoich wag, a do każdej odpowiedzi dołącza plik-dowód. Zgodność tego pliku z odciskiem potwierdza autentyczność modelu, a weryfikację można przeprowadzić na zwykłym komputerze bez GPU i bez wag. Dowód zajmuje około 19 MB na żądanie o długości 1024 tokenów, a weryfikacja trwa około 17 sekund. To wciąż znacznie droższe niż zwykła inferencja, ale dla porównania wcześniejszy wynik wymagał około 14 godzin weryfikacji i dowodu o rozmiarze 93 GB.
Algorytm opiera się na zkSNARK. Metoda jest znana od dawna, ale zasługa Anthropic polega na tym, że udało się ją zoptymalizować do praktycznych prędkości dla modeli o wielkości do 400B parametrów. W artykule badawczym Anthropic napisano, że nad przyspieszeniem i optymalizacją pracował głównie Claude.
Może to być krok w stronę detektorów pochodzenia tekstów.
Dlaczego to ważne
AnalizaDowodzona inferencja może uczynić routing modeli i wdrożenia korporacyjne audytowalnymi, zmniejszając ryzyko cichej podmiany modelu.
Dyskutuj w społeczności
Dziel się swoimi pytaniami i spostrzeżeniami z programistami
Powiązane w ekosystemie
Praktyczne poradniki, kluczowa terminologia i skille agentów
Anthropic przedstawia FlashProve do dowodnego wnioskowania AI
Anthropic zaprezentowało FlashProve — prototyp systemu, który pozwala matematycznie udowodnić, że odpowiedź została wygenerowana przez konkretny model AI, bez ujawniania wag modelu.
AI Radar: GPT-6.1 Terra, Gemini 4 Carbon, Mistral Large 4 i zmiany cen OpenAI oraz Anthropic
Przegląd najnowszych wiadomości AI: nowe modele LLM, zmiany subskrypcji OpenAI i Anthropic, modele świata, generatory wideo oraz szczegóły korporacyjne.
Claude Haiku (Szybkie, kompaktowe modele Anthropic)
Najmniejszy i najszybszy model w ofercie Anthropic. Zaprojektowany do błyskawicznych odpowiedzi, masowej klasyfikacji tekstu, ekstrakcji danych oraz routingu agentowego przy minimalnych kosztach.
Claude Opus (Flagowa inteligentna modelka Anthropic)
Najsilniejszy model w rodzinie Anthropic. Stworzony do złożonej analizy filozoficznej i naukowej, tworzenia wielowarstwowych tekstów oraz głębokiego rozumienia kontekstu.