OpenAI führt Textwasserzeichen in der EU ein: Ein Signal, kein Beweis

OpenAI führt in der Europäischen Union schrittweise ein unsichtbares Wasserzeichen für geeignete Textausgaben von ChatGPT und Codex ein. Für ausgewählte API-Modelle ist die Funktion ab sofort optional verfügbar. Der zugehörige Detektor bleibt zunächst Forschenden und Fachorganisationen vorbehalten.

Das ist praktisch relevant, weil die Kennzeichnungspflichten des EU AI Act nun direkt in verbreitete KI-Werkzeuge hineinreichen. Zugleich wäre es ein Fehler, aus einem Treffer einen Beweis für Täuschung zu machen. OpenAI nennt selbst deutliche Grenzen: kurze, stark vorgegebene, bearbeitete oder übersetzte Texte sind schwerer zuverlässig zu erkennen.

Was sich konkret ändert

OpenAI nennt drei Schritte. API-Kunden können das Wasserzeichen bei ausgewählten Modellen weltweit einschalten. In den kommenden Wochen sollen geeignete Textausgaben von ChatGPT und Codex in der EU über alle Tarife hinweg standardmäßig markiert werden. Zugang zum Detektor gibt es zunächst nur nach Antrag.

Die Technik heißt textGrain. Beim Erzeugen eines Textes verändert sie die statistische Auswahl von Tokens anhand eines geheimen Schlüssels. Der Detektor sucht später nach diesem Signal. Laut technischem Bericht benötigt er dafür den Text und den Schlüssel, aber nicht das erzeugende Modell. OpenAI will die Technik später als Open Source bereitstellen; veröffentlicht ist diese Freigabe noch nicht.

Die Erkennungsgrenzen sind erheblich

OpenAIs eigene Werte zeigen, warum Wasserzeichen nur ein Hinweis sein können. Bei einer angestrebten Falsch-Positiv-Rate von einem Prozent erkannte der Detektor nach Anbieterangaben ungefähr 80 Prozent der Wasserzeichen in 200-Token-Passagen und etwa 95 Prozent in 400-Token-Passagen aus einem geeigneten Themenbereich. Mathematische Texte schnitten schlechter ab.

Bearbeitung schwächt das Signal deutlich: In OpenAIs Versuch mit 400 Tokens sank die Erkennung von etwa 92 auf 66 Prozent, nachdem zehn Prozent der Wörter durch Synonyme ersetzt worden waren. Bei 25 Prozent Austausch blieben etwa 17 Prozent. Diese Zahlen stammen aus OpenAIs eigener Evaluation und sind noch keine unabhängige Prüfung des konkreten Systems im Alltag.

Der technische Bericht beschreibt außerdem theoretische Annahmen und weist darauf hin, dass ein fester Schlüssel, endliche Rechengenauigkeit und reale Anwendungen empirisch kalibriert werden müssen. Das ist ein wichtiger Vorbehalt: Eine mathematisch definierte Zielrate garantiert nicht automatisch dieselbe Fehlerquote in jeder praktischen Umgebung.

Was ein Treffer nicht aussagt

Ein Wasserzeichen misst nicht, wie viel ein Mensch geschrieben oder überarbeitet hat. Es klärt weder Urheberrecht noch Verantwortung und sagt nichts über die Richtigkeit eines Textes aus. Umgekehrt beweist ein fehlendes Signal keine menschliche Autorenschaft. Der Text kann bearbeitet, übersetzt, zu kurz, mit einem nicht unterstützten Modell erstellt oder von einem anderen Anbieter erzeugt worden sein.

Für Schulen, Redaktionen und Unternehmen folgt daraus eine klare Regel: Wasserzeichen dürfen Prüfprozesse ergänzen, aber keine automatische Sanktion auslösen. Entscheidend bleiben Quellen, Versionen, Arbeitsverlauf und menschliche Verantwortung. Ähnlich gilt bei ChatGPT-Werbung: Eine technische Kennzeichnung hilft nur, wenn Nutzer ihre Bedeutung und Grenzen verstehen. Und wie bei Agenten mit Desktop-Zugriff braucht eine neue Automatisierungsschicht nachvollziehbare Kontrollen statt blindes Vertrauen.

Einordnung

OpenAIs Schritt ist sinnvoll, weil maschinenlesbare Herkunftssignale in großem Maßstab praktisch erprobt werden müssen. Die begrenzte Freigabe des Detektors ist angesichts möglicher Fehlinterpretationen ebenfalls nachvollziehbar. Für allgemeine KI-Erkennung ist textGrain aber keine Lösung: Das Verfahren erkennt im besten Fall ein bestimmtes OpenAI-Signal unter passenden Bedingungen.

Der brauchbare Umgang ist deshalb nüchtern: Wasserzeichen als ein Indiz behandeln, Ergebnisse nie isoliert bewerten und Fehlerquoten für den jeweiligen Einsatzzweck testen. Für den KI-Treff wäre ein späterer Praxistest interessant, sobald OpenAI Detektorzugang oder Open-Source-Code breiter bereitstellt: Originaltext, gekürzte Fassung, Übersetzung und menschlich redigierte Version müssten dann getrennt geprüft werden.

Quellen: OpenAI zur Einführung von Textwasserzeichen, technischer Bericht zu textGrain, EU-Kommission zum Verhaltenskodex für KI-generierte Inhalte

Dieser Beitrag wurde mit Unterstützung von KI erstellt und redaktionell geprüft.