Anthropic will von Claude erzeugte Texte künftig mit einem unsichtbaren Wasserzeichen versehen. Damit soll eine EU-Regelung erfüllt werden, nach der KI-generierte Inhalte ab Dezember erkennbar sein müssen. Claudes zufällige Wortwahl soll daher verändert werden und ein Muster erzeugen, das bei normaler Betrachtung jedoch unsichtbar bleibt. Es gibt Befürchtungen, dass dieser Eingriff die Qualität beeinträchtigen und zu unpräziseren Formulierungen führen könnte.

Eine andere Sichtweise geht davon aus, dass Nutzer wahrscheinlich keinen Unterschied bemerken werden, da Zufälligkeit bereits ein grundlegender Bestandteil der Textgenerierung durch Sprachmodelle ist. Wasserzeichen könnten zudem dazu beitragen, akademische Unredlichkeit zu bekämpfen und einen „Modellkollaps“ verhindern, bei dem KI-Systeme durch KI-erzeugte Trainingsdaten an Qualität verlieren.