Wasserzeichen markieren bald auch KI-Texte von ChatGPT

Was geschehen ist – die Kernmeldung

Die Welt der Künstlichen Intelligenz steht vor einer signifikanten Veränderung in Sachen Transparenz. Wie am 22. Oktober 2026 bekannt wurde, hat das Unternehmen OpenAI angekündigt, künftig Wasserzeichen in die von seinem Chatbot ChatGPT generierten Texte zu integrieren. Diese Maßnahme zielt darauf ab, maschinell erstellte Inhalte für Nutzerinnen und Nutzer sowie für Institutionen als solche erkennbar zu machen. Die Entwicklung findet vor dem Hintergrund einer zunehmenden Verbreitung von KI-generierten Inhalten statt, die heute bereits in vielfältigen Bereichen wie Produktbeschreibungen, universitären Hausarbeiten, Bewerbungsschreiben oder sogar politischen Stellungnahmen zum Einsatz kommen. Die Implementierung dieser Wasserzeichen ist eine direkte Reaktion auf regulatorische Anforderungen. Seit Anfang August 2026 greift in der Europäischen Union ein neues Gesetz im Rahmen des EU AI-Acts, das zwingend vorschreibt, dass KI-generierte Inhalte mit maschinenlesbaren Kennzeichnungen versehen werden müssen. OpenAI reiht sich mit diesem Schritt in eine Riege von Anbietern ein, zu denen auch Unternehmen wie Anthropic und Google gehören, die bereits ähnliche Systeme angekündigt haben oder diese bereits in Teilen ihrer Dienste anwenden. Damit reagiert die Branche auf die wachsende Notwendigkeit, zwischen menschlich verfassten und maschinell erzeugten Texten unterscheiden zu können, um die Informationsqualität im digitalen Raum zu sichern.

Die Einzelheiten der Technologie

Die technische Umsetzung dieser Wasserzeichen ist ein hochkomplexer Prozess, der sich die inhärenten Freiheiten der menschlichen Sprache zunutze macht. Da es für denselben Sachverhalt oft zahlreiche synonyme Ausdrucksmöglichkeiten gibt – etwa die Wahl zwischen „Ich gehe heute ins Kino“ und „Ich möchte heute ins Kino gehen“ –, entstehen sprachliche Spielräume. Diese nutzt die KI, um den Text subtil zu steuern. Normalerweise berechnet ein Sprachmodell für jedes nachfolgende Wort eine bestimmte Wahrscheinlichkeit und wählt dann das wahrscheinlichste Wort aus. Bei der Wasserzeichen-Methode wird dieser Prozess jedoch manipuliert: Der „Wahrscheinlichkeitswürfel“ wird gewissermaßen gezinkt. Bestimmte Wörter, die den Sinn des Satzes nicht verändern, werden bei der Generierung minimal bevorzugt, während andere leicht benachteiligt werden. Dies erzeugt ein statistisches Muster, das für das menschliche Auge vollkommen unsichtbar bleibt. Da diese Anpassung für jedes Wort individuell neu berechnet wird, ist das Muster auch bei längeren Texten nicht durch bloßes Lesen oder einfaches Nachrechnen zu identifizieren. Waldemar Berchtold, Gruppenleiter für Multimedia Sicherheit am Fraunhofer Institut für Sichere Informationstechnologie in Darmstadt, betont, dass die Sicherheit des Verfahrens maßgeblich vom geheimen „Schlüssel“ abhängt. Nur wer diesen Schlüssel besitzt, der die genaue Manipulation des Wahrscheinlichkeitswürfels beschreibt, kann das Wasserzeichen später verifizieren. Ohne dieses Wissen bleibt das statistische Muster verborgen, was den Schutz vor unbefugter Entfernung oder Nachahmung gewährleisten soll.

Hintergrund und bisheriger Verlauf

Die Debatte um die Kennzeichnung von KI-Inhalten ist in den vergangenen Jahren stetig gewachsen. Bereits am 18. März 2025 rückte die Problematik durch Berichte über mutmaßlich KI-generierte Kinderbücher in den Amazon-Bestsellerlisten in den Fokus der Öffentlichkeit. Dies verdeutlichte, dass die unkontrollierte Verbreitung maschineller Texte nicht nur akademische oder politische, sondern auch wirtschaftliche Auswirkungen hat. Die Entwicklung hin zu verpflichtenden Wasserzeichen wurde durch den EU AI-Act massiv beschleunigt, der am 2. August 2026 in Kraft trat und eine neue Transparenzpflicht einführte. Bereits vor der aktuellen Ankündigung von OpenAI gab es Vorreiter in der Branche: So teilte das Unternehmen Anthropic am 8. September 2026 mit, dass es für seinen Chatbot Claude ebenfalls Wasserzeichen einführen werde. Die Branche befindet sich in einem Prozess, bei dem sie auf den Druck der Gesetzgeber reagiert, aber gleichzeitig versucht, die Integrität ihrer eigenen Sprachmodelle zu wahren. Die Notwendigkeit, KI-Texte verlässlich zu identifizieren, ist somit nicht nur ein regulatorisches Anliegen, sondern auch eine Reaktion auf die zunehmende Überflutung des Internets mit automatisierten Inhalten, die von menschlichen Beiträgen kaum noch zu unterscheiden sind.

Die Beteiligten und ihre Rollen

An diesem Prozess sind verschiedene Akteure beteiligt, die jeweils unterschiedliche Interessen verfolgen. OpenAI, als Entwickler von ChatGPT, steht dabei im Zentrum der aktuellen Meldung, da das Unternehmen nun die Implementierung der Wasserzeichen für sein bekanntestes Produkt zugesagt hat. Ebenfalls als Akteure in diesem Feld genannt sind die Unternehmen Anthropic und Google, die bereits eigene Strategien zur Kennzeichnung verfolgen. Eine zentrale wissenschaftliche Einordnung liefert Waldemar Berchtold vom Fraunhofer Institut für Sichere Informationstechnologie in Darmstadt. Er fungiert als Experte, der sowohl die technischen Möglichkeiten als auch die Grenzen der Wasserzeichen-Technologie beleuchtet. Die Europäische Union tritt als regulatorische Instanz auf, deren AI-Act die rechtliche Grundlage für die Kennzeichnungspflicht bildet. Zudem sind die Nutzerinnen und Nutzer sowie Institutionen die Zielgruppe, für die diese Transparenz geschaffen werden soll. Sie sollen in die Lage versetzt werden, den Ursprung von Texten besser einzuschätzen. Nicht zuletzt haben auch die KI-Anbieter selbst ein Interesse daran, ihre eigenen Texte zu identifizieren, um ihre Sprachmodelle kontinuierlich mit qualitativ hochwertigen Daten zu trainieren, was den Nutzen der Technologie über die bloße EU-Konformität hinaus erweitert.

Einordnung der technischen Grenzen

Einzuordnen ist die Technologie der Wasserzeichen als eine statistische Methode, die keine absolute Sicherheit bieten kann. Waldemar Berchtold weist darauf hin, dass die Zuverlässigkeit der Erkennung an bestimmte Bedingungen geknüpft ist. So funktioniere das System erst bei einer Textlänge von etwa 200 bis 300 Wörtern zufriedenstellend. Bei kürzeren Texten sei die statistische Signifikanz oft nicht ausreichend, um ein verlässliches Muster zu bilden. Ein weiteres Problem stellt die manuelle Bearbeitung von Texten dar: Sobald ein Nutzer einen KI-generierten Text umschreibt oder seinen eigenen Stil einbringt, verwischt er damit auch die Spur des Wasserzeichens. Den Berichten zufolge führt dies dazu, dass das Entschlüsselungsverfahren niemals eine hundertprozentige Sicherheit garantieren kann, sondern lediglich Wahrscheinlichkeiten angibt. Es ist daher davon auszugehen, dass künftige Detektoren, die von den KI-Anbietern zur Verfügung gestellt werden, Ergebnisse liefern wie: „Dieser Text ist mit einer Wahrscheinlichkeit von 80 Prozent durch unser KI-Modell erstellt worden.“ Diese probabilistische Natur der Erkennung ist ein wesentlicher Aspekt, den Anwender bei der Interpretation der Ergebnisse berücksichtigen müssen.

Offene Fragen und Ausblick

Der vorliegende Quelltext lässt einige Fragen offen, die für die praktische Anwendung der Wasserzeichen von Bedeutung sind. So wird nicht spezifiziert, ab welchem genauen Datum die Wasserzeichen-Funktion in ChatGPT für alle Nutzer weltweit aktiv geschaltet wird. Ebenso bleibt unklar, wie die „geheimen Schlüssel“ verwaltet werden und ob diese im Falle einer gerichtlichen Auseinandersetzung oder für unabhängige Prüfinstanzen zugänglich gemacht werden müssen, um die Transparenz tatsächlich zu gewährleisten. Auch die Frage, wie mit Texten umgegangen wird, die durch eine Kombination aus menschlicher und maschineller Arbeit entstehen, wird nicht detailliert beantwortet. Wie es weitergeht, ist jedoch absehbar: Die KI-Anbieter werden in Zukunft Detektoren bereitstellen, mit denen Texte auf ihren Ursprung hin überprüft werden können. Dies markiert den Beginn einer neuen Ära der digitalen Verifikation, in der die Unterscheidung zwischen Mensch und Maschine zu einem Standardprozess bei der Textanalyse werden könnte. Die technischen Herausforderungen bei der Manipulation der Texte durch Nutzer werden die Entwickler zudem dazu zwingen, die Robustheit der Wasserzeichen in den kommenden Monaten und Jahren kontinuierlich weiterzuentwickeln, um den gesetzlichen Anforderungen des EU AI-Acts dauerhaft gerecht zu werden.