Usynlige vandmærker skal afsløre AI-tekst

Den 2. august trådte nye EU-krav i kraft om gennemsigtighed i onlineprodukter skabt af kunstig intelligens. En uge senere reagerede det første af de store AI-selskaber.

Anthropic, som står bag den populære chatbot Claude, har meldt ud, at alle Claude-modeller, der lanceres i EU fra og med 2. august, nu genererer tekst med skjulte vandmærker.

Det er usynlige spor, som brugeren ikke kan se, men som gør et kommende detektionsværktøj i stand til at genkende en tekst som skabt eller påvirket af Claude.

Vandmærkningen foregår sprogligt gennem brugen af komplicerede mønstre ud fra, hvilke ordvalg der er mest sandsynlige i en given sammenhæng. Til Berlingske forklarer ph.d. i datalogi og lektor ved IT-Universitetet, Aske Mottelson, at det kan være ved at vælge det tredje mest oplagte synonym hvert syvende ord i teksten eller lignende.

Når man for eksempel mistænker et SoMe-opslag eller en gymnasiestil for at være skabt med Claude, vil man hurtigt kunne afkode det ved hjælp af detektionsværktøjet, når det lanceres.

Claude-modellerne, der udgives i EU, lanceres også i resten af verden, så i praksis er det en verdensomspændende tilføjelse til chatbotten.

Mulighed for omgåelse
Man har også tidligere kunnet spørge chatbotter som Claude og ChatGPT, om de har skabt en given tekst. Men med de nye vandmærker bliver det mere sikkert. Der skal dog være tale om en tekst af en vis længde.

Det vil også formentlig være muligt at ændre tilstrækkeligt i sin Claude-generede tekst til, at vandmærkerne kollapser, vurderer Aske Mottelson over for Berlingske. Så selv en vaks gymnasielærer kan stadig få svært ved af fange snyderiet, hvis eleverne ikke er helt dovne.

Anthropic-teknologien kan heller ikke se, om en anden chatbot har været på spil i en tekst, da de ikke indsætter vandmærker på samme måde.

I og med, at selskabet bag den mest populære chatbot ChatGPT – OpenAI – også opererer i EU, vil de og andre selskaber ligeledes snart skulle finde en måde at leve op til de nye EU-krav.

Google har vandmærket AI-billeder allerede siden 2023. Og siden 2024 har Google også gjort det med tekst, lyd og video ved hjælp af værktøjet SynthID, der også benytter sproglige mønstre til at mærke genererede tekster.

Ifølge Forbes og Wall Street Journal formodes det, at OpenAI har haft teknologien til at vandmærke ChatGPT-tekster i årevis. Men man har hidtil undladt at gøre det af konkurrencemæssige årsager.

Alvorligt stigma
Hvor Anthropic-mærkningen er en hjælp i jagten på Claude-skrevne tekster, kan den også ramme folk, der benytter chatbotten mere sparsommeligt.

Ifølge Forbes vil vandmærkerne ikke kun blive indsat i tekst, som Claude genererer på egen hånd. De vil også blive indsat i tekst, som Claude er blevet bedt om at redigere, oversætte, referere eller læse korrektur på.

Skribenter, der skriver egne tekster egenhændigt, men får Claude til at rette kommafejlene, risikerer dermed også at få deres tekst stemplet som AI-genereret.

Siden AI-teknologien kom frem, har der gang på gang været nyheder om, at medier fyrer deres korrekturlæsere, fordi det er billigere blot at kopiere tekst ind i ChatGPT eller Claude.

Men hvis en journalists selvskrevne tekst er rettet af Claude, vil den nu potentielt kunne blive markeret som en AI-tekst. Det kan blive et problem for medier, da brug af kunstig intelligens er et alvorligt stigma.

Mediestøtte i fare
At få sine artikler stemplet som AI-skabte på grund af korrektur eller justering kan også tænkes at få konsekvenser for den offentlige støtte, som mange medier er afhængige af.

I juni blev den nye kulturminister Zenia Stampe spurgt i Politiken, hvorvidt Michael Dyrbys AI-medie Projekt Y kan få mediestøtte.

Hun svarede entydigt: ”Sådan nogle medier bør efter min mening ikke få en rød øre i støtte. Det vil jeg arbejde for at få ind i medieforliget, og så vil det selvfølgelig være op til et armslængdeorgan at foretage den konkrete vurdering af det enkelte medie.”

Der er endnu ikke udgivet en procedure for, hvordan man klager over en forkert detektion af Claude-brug.