OpenAI heeft de mogelijkheden voor beeldanalyses van ChatGPT teruggeschroefd, omdat het systeem ook gezichten herkent. Dat zou problemen kunnen opleveren met heel wat geldende privacyregels.
AI-model ChatGPT kan niet alleen teksten genereren, maar ook beelden analyseren. Een deel van die functie is het herkennen van voorwerpen en die omschrijven. Het systeem kan dat echter ook met gezichten en dat gaat zo ver dat het personen in een foto effectief ook zou gaan kunnen identificeren. Die specifieke functie houdt OpenAI nu tegen omwille van privacy, dat bericht de New York Times.
Wat jij niet ziet
De versie van GPT-4 met beeldanalyse is recent beschikbaar gemaakt voor een select publiek, waaronder ook een aantal blinden en slechtzienden. Voor hen is de functie een handig hulpmiddel om hun omgeving veel beter in te schatten. Het AI-model kan aan de hand van een foto heel wat details geven over een ruimte en wat er zich in bevindt.
ChatGPT beperkt zich echter niet tot objecten in een ruimte, maar kan ook een accurate omschrijving bieden van personen die op een afbeelding staan. Dat gaat van de handeling die ze op de geanalyseerde foto uitvoeren, over de kledij die ze dragen en fysieke kenmerken, tot zelfs het herkennen van emoties aan de hand van gelaatsuitdrukkingen.
Be My Eyes
Enkele maanden geleden begon OpenAI een samenwerking met startup Be My Eyes, een app die blinden en slechtzienden verbindt met vrijwilligers, die live via video en audio helpen om een omgeving te omschrijven aan mensen met een visuele beperking. Die technologie combineert GPT-4 nu om hetzelfde te doen, maar dan aan de hand van een foto en met AI die de omschrijvingen voorziet.
lees ook
Microsoft laat bedrijven eigen data gebruiken om ChatGPT te trainen
Bedenkingen
Voorlopig herkent het model vooral publieke figuren, ChatGPT kan nog niet actief op zoek naar (de gezichten van) specifieke personen online. De functie publiek beschikbaar maken, zou het bedrijf op glad ijs duwen wat betreft privacyregels in een aantal regio’s. Europa treedt bijvoorbeeld streng op als het daarover gaat.
Een andere bedenking die OpenAI heeft gemaakt, is de kans dat GPT-4 zaken over mensen gaat verklaren, waar het systeem of gebruikers geen zaken mee hebben, zoals gender of emoties. Het zijn zulke werkpunten die OpenAI wil aanpakken, voor de functie opnieuw beperkt beschikbaar is en al zeker voor ze verder wordt uitgerold.
Het feit dat ChatGPT nog last kan hebben van hallucinaties is nog een andere factor. Het gevaar bestaat nu nog dat het systeem een persoon verkeerd identificeert of een naam verzint als het iemand niet helemaal herkent. Dat gebeurt nu soms al met voorwerpen, dus de kans dat dat met mensen ook voorvalt is reëel.
GPT-4 is sinds begin deze maand publiek beschikbaar. Intussen rolt OpenAI ook Code Interpreter uit voor het model.