OpenAI führt Wasserzeichen für generierten Text ein
OpenAI führt Wasserzeichen für generierten Text ein
OpenAI rollt Text-Wasserzeichen aus, zunächst als opt-in-API-Option, mit Plänen zur Ausweitung auf ChatGPT und Codex in der EU.
OpenAI beginnt mit der Einführung von Wasserzeichen für Text
OpenAI hat damit begonnen, Wasserzeichen für generierten Text einzuführen. Bislang handelt es sich um eine Opt-in-Option für die API. In wenigen Wochen wird erwartet, dass das Wasserzeichen-Verfahren auch für ChatGPT und Codex in der Europäischen Union ausgerollt wird.
Das Verfahren ist jedoch nicht fehlerfrei. Ein Wasserzeichen kann bei Texten mit mehr als 200 Token nur mit einer Genauigkeit von etwa 80 % erkannt werden, und der Detektor erzeugt zudem rund 1 % falsch-positive Ergebnisse. Die Wirksamkeit hängt stark vom Inhaltstyp ab: Bei mathematischen Texten gibt es weniger Möglichkeiten, das gleiche Ergebnis unterschiedlich zu formulieren, wodurch die Erkennungsgenauigkeit deutlich sinkt. Ähnliches gilt für Code.
Warum das wichtig ist
AnalyseDies ist relevant, da Wasserzeichen die Identifizierung von KI-generiertem Text verändern könnten, ihre Nützlichkeit jedoch durch Textlänge, Inhaltstyp und das Risiko falsch-positiver Meldungen begrenzt bleibt.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern
Verwandt im Ökosystem
Praktische Leitfäden, Terminologie und Agenten-Skills
OpenAI GPT (Flaggschiff-Modelle der GPT-Serie)
Die zentrale, universelle Reihe großer Sprachmodelle von OpenAI (GPT-4, GPT-4o). Optimiert für komplexe Textanalyse, Programmierung, Kreativität und tägliche intellektuelle Arbeit.
ChatGPT-Updates: Entwicklung und Workflows mit Plugins und Codex
Ein umfassender praktischer Leitfaden zur Erstellung, Verpackung, Testung und Veröffentlichung von Plugins für ChatGPT und Codex: Manifest-Spezifikation, MCP-Server, Lifecycle-Hooks, eigene Marktplätze und der Review-Prozess von OpenAI.
Codex Skills für Einsteiger: So automatisieren Sie Workflows mit KI-Agenten
Ein praktischer Leitfaden zur Erstellung und Nutzung von Skills in Codex: Anatomie der SKILL.md, explizite und automatische Aktivierung, Unterschiede zwischen Skills, Skripten und Tools, die Skills API sowie die Konfiguration von Sicherheitsgrenzen.
Harvard startet Kurs zur KI-Sicherheit für Graduierte mit OpenAI und Anthropic
Harvard bietet im Herbst einen Graduiertenkurs zur KI-Sicherheit an, mit Vortragenden von OpenAI und Anthropic sowie kostenlosen Vorlesungen auf YouTube.