OpenAI führt Wasserzeichen für generierten Text ein
OpenAI führt Wasserzeichen für generierten Text ein
OpenAI rollt Text-Wasserzeichen aus, zunächst als opt-in-API-Option, mit Plänen zur Ausweitung auf ChatGPT und Codex in der EU.
OpenAI beginnt mit der Einführung von Wasserzeichen für Text
OpenAI hat damit begonnen, Wasserzeichen für generierten Text einzuführen. Bislang handelt es sich um eine Opt-in-Option für die API. In wenigen Wochen wird erwartet, dass das Wasserzeichen-Verfahren auch für ChatGPT und Codex in der Europäischen Union ausgerollt wird.
Das Verfahren ist jedoch nicht fehlerfrei. Ein Wasserzeichen kann bei Texten mit mehr als 200 Token nur mit einer Genauigkeit von etwa 80 % erkannt werden, und der Detektor erzeugt zudem rund 1 % falsch-positive Ergebnisse. Die Wirksamkeit hängt stark vom Inhaltstyp ab: Bei mathematischen Texten gibt es weniger Möglichkeiten, das gleiche Ergebnis unterschiedlich zu formulieren, wodurch die Erkennungsgenauigkeit deutlich sinkt. Ähnliches gilt für Code.
Warum das wichtig ist
AnalyseDies ist relevant, da Wasserzeichen die Identifizierung von KI-generiertem Text verändern könnten, ihre Nützlichkeit jedoch durch Textlänge, Inhaltstyp und das Risiko falsch-positiver Meldungen begrenzt bleibt.
In der Community diskutieren
Teile deine Fragen und Erkenntnisse mit Entwicklern