OpenAI zou ChatGPT-teksten niet van watermerk voorzien omdat het gebruikers zou afschrikken.
OpenAI zou al een jaar beschikken over een systeem voor het watermerken van door ChatGPT gecreëerde content alsook een tool om het watermerk te detecteren, volgens The Wall Street Journal. Een zegen voor leraren voor wie het gebruik van ChatGPT niet wenselijk is, maar een afschrikmiddel voor gebruikers die hun proefstukken laten schrijven door ChatGPT.
Dit brengt het bedrijf in een lastig parket: verantwoordelijkheid nemen of de winst schaden. Volgens een onderzoek van OpenAI zouden 30 procent van de gebruikers ChatGPT namelijk minder raadplegen wanneer er een watermerk opstaat, omdat ze zich hiermee betrapt zouden voelen.
Als reactie op het verhaal van The Journal, bracht OpenAI een update aan een blogbericht dat opgemerkt werd door TechCrunch. Hierin staat geschreven dat het bedrijf in de beginfase zit van een tekstwatermerkmethode en dat ze alternatieven blijven onderzoeken.
Tekstwatermerken
De tekstwatermerken van OpenAI zouden zich enkel richten op het detecteren van teksten gecreëerd door ChatGPT, en niet die van andere modellen. Dit wordt gedaan door kleine wijzigingen aan te brengen in de manier waarop ChatGPT woorden selecteert. Hierdoor ontstaat er een onzichtbaar watermerk in de tekst dat door een aparte tool achterhaald kan worden.
lees ook
OpenAI gaat AI-gegeneerde beelden van (onzichtbaar) label voorzien
“De tekstwatermerkmethode die we ontwikkelen is technisch veelbelovend, maar kent belangrijke risico’s die we afwegen terwijl we alternatieven onderzoeken, waaronder de vatbaarheid voor omzeiling door kwaadwillenden en de mogelijkheid om groepen zoals niet-Engelstaligen onevenredig hard te treffen”, aldus een woordvoerder van OpenAI aan TechCrunch.
Niet winstgevend?
OpenAI zou zich bovendien zorgen maken over de invloed van de detectietool op het gebruik van hun software. Uit een eigen onderzoek van het bedrijf zou bijna 30 procent de software minder gebruiken als er een watermerk geïmplementeerd wordt. Zeker in een academische omgeving kan dit het gevoel van ‘betrapt zijn’ creëren.
Volgens The Journal zou OpenAI ontdekt hebben dat de watermerken geen invloed hebben op de kwaliteit van de uitvoer van ChatGPT. “Mensen ondersteunen wereldwijd het idee van een AI-detectietool met een marge van vier tegen een”, dat meldt The Journal.
Nadat The Journal het verhaal deelde over het bestaan van de tekstwatermerken van OpenAI, bracht het bedrijf een update aan een blogpost uit mei, opgemerkt door TechCrunch. Hierin staat geschreven dat het bedrijf “in de beginfase” zit van het verkennen van het insluiten van metadata, en dat het nog te vroeg is om te weten hoe goed het zal werken.