Google DeepMind stellt AlphaProof Code vor – KI-System für formale Code-Verifizierung
Ein Multi-Agenten-System automatisiert die formale Verifizierung und beweist mathematisch, dass Code Sicherheitsgarantien erfüllt.
Normalerweise wird Code empirisch getestet: mit Tests, Reviews und Audits, die nach einzelnen Fehlern suchen. Formale Verifizierung ist strenger: Die Eigenschaften eines Programms werden mathematisch formuliert, und anschließend wird ein strenger Beweis dafür erstellt, dass der Code sie für beliebige Eingaben erfüllt.
Dies gilt als das höchste Maß an Sicherheitsgarantien, doch formale Verifizierung wird kaum genutzt, weil sie sehr teuer und sehr langsam ist und nur wenige Spezialisten können.
AlphaProof Code ist ein Multi-Agenten-System, das diese Art der Prüfung automatisiert. Google sagt, dies sei der erste Fall, in dem KI für die formale Verifizierung eines Programms eingesetzt wird.
Dank AlphaProof Code haben Forscher mathematisch bewiesen, dass der Code des kryptografischen Signal-Protokolls (der die Nachrichtenverschlüsselung in Signal und Google Messages betreibt) die angegebenen Sicherheitsgarantien erfüllt.
Dafür schrieben Agenten auf Basis von Gemini 4 Carbon mehr als sechs Millionen Zeilen in Lean und prüften den Beweis anschließend selbst, indem sie Stellen markierten, an denen menschliche Aufmerksamkeit nötig war. Das waren etwa 1%. Die Arbeit dauerte vier Wochen; für Expertenteams dauert eine Aufgabe dieser Größenordnung normalerweise Jahre.
Die Autoren sehen im formalen Beweis eine Grundlage für den Schutz anderer kritischer Systeme und sagen, dies könnte einer der wenigen Wege sein, der Geschwindigkeit und dem Ausmaß moderner Cyberangriffe zu widerstehen.
Warum das wichtig ist
AnalyseFormale Verifizierung bietet die stärksten Software-Sicherheitsgarantien, und KI-Agenten könnten sie für große, komplexe Systeme praktikabel machen.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
Claude Code Projects: Wie ein KI-Agent ein Team autonomer Agenten koordiniert
Eine tiefgehende Analyse von Claude Code Projects: die Architektur von Coordinator und Threads, parallele Branches, gemeinsamer Speicher MEMORY.md sowie das Management von Cloud-Agenten.
Teil II: Arbeiten mit Codex – Optimierung, Sicherheit und Team
Codex ist keine einfache Code-Vervollständigung im Chat, sondern ein vollwertiger Engineering-Agent: Er liest das Repository, plant Änderungen, editiert Dateien, führt Tests aus, überprüft eigene Diffs und kann...
Halluzinierte Abhängigkeiten im Code (Hallucinated Packages)
Eine gefährliche Form von KI-Halluzinationen in der Softwareentwicklung. Das Modell erfindet plausibel klingende, aber nicht existierende Bibliotheken sowie npm-/PyPI-Pakete und schafft so kritische Sicherheitslücken (Slopsquatting).
System Prompt Leakage
Eine Schwachstelle im Bereich der künstlichen Intelligenz, bei der ein Benutzer durch geschickte Formulierungen den Bot dazu bringt, seine versteckten Anweisungen (System Prompt) wörtlich zu zitieren. Dies legt Geschäftslogik, Verhaltensregeln und interne Geheimnisse der Entwickler offen.