OpenAI introduceert een onzichtbaar watermerk in AI-teksten van ChatGPT in de EU, in aansluiting op de Europese AI Act.
OpenAI, het bedrijf achter de populaire AI-chatbot ChatGPT, heeft aangekondigd dat het vanaf nu een onzichtbaar watermerk toevoegt aan AI-teksten die worden gegenereerd door ChatGPT in de Europese Unie. Dit maatregel is een directe reactie op de Europese AI Act, die vereist dat AI-gemaakte content herkenbaar is voor computersystemen. Het watermerk, genaamd textGrain, is ingebouwd in de woordkeuze van het AI-model en is niet zichtbaar voor mensen, maar wel detecteerbaar door speciale programma's.
Wat verandert er?
De technologie werkt met een 'statistisch signaal' dat in de woordkeuze van het AI-model is verwerkt. Dit signaal kan door een speciale detector worden herkend, waardoor het duidelijk wordt dat een tekst door kunstmatige intelligentie is gegenereerd. OpenAI benadrukt dat het watermerk alleen beschikbaar is voor goedgekeurde onderzoekers en deskundige organisaties. De technologie is voorlopig niet beschikbaar voor gewone gebruikers, docenten of werkgevers.
Wat betekent dit voor de detectie?
Hoewel het watermerk een belangrijke stap voorwaarts is, is het niet volledig betrouwbaar. Volgens OpenAI is het moeilijker om het watermerk te detecteren in korte teksten of teksten die door mensen zijn aangepast. In een test met teksten van ongeveer 400 woordstukjes daalde de herkenningssnelheid van ongeveer 92 naar 66 procent als een mens elk tiende woord verviel door een synoniem. Bovendien kan het ontbreken van een watermerk niet als bewijs dienen dat een tekst niet door AI is gegenereerd, omdat de tekst mogelijk bewerkt is of van een ander AI-programma komt.
"De bedrijven zeggen met hun watermerken de nieuwe Europese AI-transparantieregels te volgen. Een van die regels is dat content die door kunstmatige intelligentie is gemaakt een markering krijgt, zoals een watermerk."
De introductie van het watermerk is niet alleen een reactie op de Europese regelgeving, maar ook een strategische keuze van OpenAI om te concurreren met andere AI-bedrijven zoals Anthropic, dat al een vergelijkbaar watermerk heeft ingevoerd. Tech-expert Bert Hubert wijst erop dat de watermerken ook kunnen helpen bij fraudezaken, zoals het herkennen van AI-gemaakte e-mails die lijken op die van echte energiebedrijven.
Veelgestelde vragen
Waarom voert OpenAI het watermerk in?
OpenAI voert het watermerk in om aan de Europese AI Act te voldoen, die vereist dat AI-gemaakte content herkenbaar is voor computersystemen.
Is het watermerk zichtbaar voor gebruikers?
Nee, het watermerk is onzichtbaar voor mensen, maar wel detecteerbaar door speciale programma's.
Waarom is de detectie niet altijd betrouwbaar?
Detectie is lastiger bij korte of bewerkte teksten, en het ontbreken van een watermerk betekent niet dat een tekst niet door AI is gegenereerd.
