Anthropic veröffentlicht FlashProve als Open Source — ein Tool für nachweisbare Inferenz
Anthropic hat einen Prototyp eines offenen kryptografischen Protokolls namens FlashProve veröffentlicht, mit dem sich Modellantworten ohne Zugriff auf die Modellgewichte prüfen lassen.
Anthropic hat FlashProve als Open Source veröffentlicht, ein Tool für nachweisbare Inferenz.
Im Wesentlichen handelt es sich um einen Prototyp eines offenen kryptografischen Protokolls, mit dem jeder Prüfer ohne Zugriff auf die Modellgewichte bestätigen kann, dass die Antwort von genau dem Modell stammt, das vom Anbieter angegeben wurde.
Ein solcher Mechanismus ist zum Beispiel nützlich, um zu prüfen, ob ein Routing-Dienst nicht ein Modell gegen ein günstigeres austauscht oder ob ein Modell in einer Unternehmensumgebung nicht von Angreifern ersetzt wurde.
Der Mechanismus funktioniert so: Der Anbieter veröffentlicht vorab einen digitalen Fingerabdruck seiner Gewichte und fügt jeder Antwort anschließend eine Beweisdatei bei. Eine Übereinstimmung zwischen dieser Datei und dem Fingerabdruck bestätigt die Authentizität des Modells, und die Prüfung kann auf einem normalen Computer ohne GPU und ohne Gewichte durchgeführt werden. Der Beweis ist etwa 19 MB groß pro 1024-Token-Anfrage, und die Überprüfung dauert etwa 17 Sekunden. Das ist immer noch deutlich teurer als normale Inferenz, aber im Vergleich dazu erforderte das frühere Ergebnis etwa 14 Stunden Überprüfung und einen 93 GB großen Beweis.
Der Algorithmus basiert auf zkSNARKs. Das Verfahren ist seit Langem bekannt, aber das Verdienst von Anthropic besteht darin, es zu praktischen Geschwindigkeiten für Modelle mit bis zu 400B Parametern optimiert zu haben. Im Anthropic-Forschungsartikel heißt es, dass Claude hauptsächlich an der Beschleunigung und Optimierung gearbeitet hat.
Vielleicht ist das ein Schritt hin zu Detektoren für die Herkunft von Texten.
Warum das wichtig ist
AnalyseNachweisbare Inferenz kann Modell-Routing und Unternehmensdeployments überprüfbar machen und das Risiko einer stillen Modellaustauschung verringern.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Anthropic stellt FlashProve für nachweisbare KI-Inferenz vor
Anthropic hat den Prototyp FlashProve vorgestellt, mit dem Entwickler mathematisch belegen können, dass eine Antwort von einem bestimmten KI-Modell stammt, ohne die Modellgewichte preiszugeben.
AI Radar: GPT-6.1 Terra, Gemini 4 Carbon, Mistral Large 4 und Preisänderungen bei OpenAI und Anthropic
Überblick über aktuelle KI-News: neue LLM-Releases, Änderungen bei OpenAI- und Anthropic-Abos, World-Modelle, Videogeneratoren und Unternehmensdetails.
Claude Haiku (Anthropics schnelle, kompakte Modelle)
Das kompakteste und schnellste Modell in der Anthropic-Produktlinie. Entwickelt für blitzschnelle Antworten, massive Textklassifizierung, Datenextraktion und agentische Routing-Prozesse zu minimalen Kosten.
Claude Opus (Anthropics Flaggschiff-KI-Modell)
Das leistungsstärkste Modell in der Anthropic-Familie. Entwickelt für komplexe philosophische und wissenschaftliche Analysen, das Verfassen vielschichtiger Texte und ein tiefgreifendes Kontextverständnis.