OpenAI führt Wasserzeichen für KI-Texte zunächst nur in der EU ein

Ope­nAI führt mit text­Grain ein un­sicht­ba­res, ma­schi­nen­les­ba­res Was­ser­zei­chen für von ChatGPT und Codex er­zeug­te Texte ein1245. Au­to­ma­tisch aktiv wird es zu­nächst nur für Nut­zer in der Eu­ro­pä­i­schen Union, als Re­ak­ti­on auf die Trans­pa­renz­pflich­ten des EU AI Act345. API-Kun­den welt­weit kön­nen die Funk­ti­on hin­ge­gen op­ti­o­nal für un­ter­stütz­te Mo­del­le zu­schal­ten, stan­dard­mä­ßig ist sie aber aus­ge­schal­tet23.

Tech­nisch funk­tio­niert text­Grain, indem das Mo­dell bei der Wort­wahl sub­ti­le sta­tis­ti­sche Mus­ter er­zeugt, die ein De­tek­tor spä­ter er­ken­nen kann3. Laut The De­co­der er­reicht die Er­ken­nungs­ra­te bis zu 95 Pro­zent, sinkt aber auf nur 17 Pro­zent, wenn ein Vier­tel der Wör­ter aus­ge­tauscht wird5. Ope­nAI selbst räumt ein, dass text­Grain keine Ga­ran­tie für zu­ver­läs­si­ge Er­ken­nung bie­tet4.

Damit un­ter­schei­det sich Ope­nAIs Vor­ge­hen deut­lich von dem des Kon­kur­ren­ten An­thro­pic, der sein Was­ser­zei­chen bei Clau­de glo­bal und ohne Opt-out für API-Ent­wick­ler ein­setzt34. Ope­nAI ver­weist zudem auf Bench­mark-Tests, laut denen was­ser­zei­chen­ver­se­he­ner und un­ver­se­he­ner Text ähn­lich gut ab­schnei­den4. Beide Un­ter­neh­men be­ru­fen sich auf die An­for­de­run­gen des EU AI Act, set­zen die Tech­nik aber in Um­fang und Ver­bind­lich­keit un­ter­schied­lich um34.