OpenAI rolt tekstwatermerken uit in de Europese Unie om te voldoen aan de EU AI Act. De uitrol start bij in aanmerking komende ChatGPT- en Codex-abonnementen in de Europese Unie.
Sinds de inwerkingtreding van de nieuwe transparantieregels van de AI Act op 2 augustus zijn aanbieders van generatieve AI verplicht om AI-gegenereerde content als dusdanig te markeren en machineleesbaar te maken. OpenAI start met onzichtbare watermerken op teksten die gegenereerd zijn door ChatGPT en Codex in de Europese Unie om te voldoen aan de EU AI Act.
“Vanaf vandaag kunnen API-klanten wereldwijd kiezen voor tekstwatermerken voor geselecteerde modellen. Tekstwatermerk blijft standaard uitgeschakeld in de API”, aldus OpenAI in een blogpost. De watermerken zullen de komende weken uitgerold worden naar in aanmerking komende ChatGPT- en Codex-gebruikers op alle abonnementen in de EU.
TextGrain-watermerken
De watermerktechnologie van OpenAI, textGrain, voegt een onzichtbaar statistisch signaal toe in de woordkeuze van het model. De detector analyseert passages op dat signaal om te bepalen of er een OpenAI-watermerk aanwezig is. Volgens het technische rapport van OpenAI presteert textGrain minstens even goed als andere geteste methodes zoals SynthID voor tekst.
In ideale omstandigheden detecteert de tool een groot deel van de watergemarkeerde tekst, maar OpenAI benadrukt dat dit in dagelijks gebruik minder betrouwbaar kan zijn. De technologie wordt op termijn als open source beschikbaar gemaakt zodat andere partijen ze kunnen onderzoeken en erop kunnen voortbouwen. Voor organisaties moet dit transparanter maken welke stukken tekst door OpenAI-modellen zijn beïnvloed.
Bewerking verzwakt het watermerk
De detectiegraad hangt sterk af van tekstlengte en -type. Bij een gewenst vals-positiefpercentage van één procent herkende de detector ongeveer 80 procent van de watergemarkeerde passages met 200 tokens en circa 95 procent bij 400 tokens in psychologie-inhoud. Voor teksten met weinig variatie in woordkeuze, zoals wiskunde, liggen de detectiepercentages duidelijk lager.
Bewerking van tekst verzwakt het watermerk snel. In passages van 400 tokens daalde de detectie van ongeveer 92 naar 66 procent wanneer tien procent van de woorden door synoniemen werd vervangen. Bij 25 procent vervanging zakte dat verder tot zeventien procent. “Deze beperkingen dragen bij aan onze beslissing om de eerste detectortoegang alleen te bieden aan goedgekeurde onderzoekers en deskundige organisaties, die ons kunnen helpen betrouwbaarheid en verantwoord gebruik te evalueren,” aldus het bedrijf.
Geen bewijs van ‘menselijk auteurschap’
Verder waarschuwt OpenAI dat een ontbrekend watermerk “geen menselijk auteurschap bewijst”. “Watermerken kunnen aangeven dat een OpenAI-systeem een deel van een passage heeft gegenereerd of verwerkt, maar niet hoeveel menselijk oordeel, bewerking of creativiteit erin is gestoken,” aldus het bedrijf.
De nieuwe transparantieregels zetten een grotere beweging in voor AI-aanbieders. Naast OpenAI gaven onder andere Anthropic, Google en Microsoft hun akkoord op de labelverplichting in de EU. In augustus startte Anthropic met het watermerken van AI-gegenereerde teksten en afbeeldingen, net zoals Microsoft in Copilot, en Google in Gemini.