Een non-profitorganisatie voor ethiek in artificiële intelligentie heeft de Amerikaanse Federal Trade Commission gevraagd om Open AI te onderzoeken en sommige van zijn activiteiten te reguleren.
Centraal in de klacht van CAIDP (the Center for AI and Digital Policy) staat het GPT-4 model dat OpenAI eerder deze maand uitbracht. OpenAI heeft GPT-4 beschikbaar gemaakt voor zijn ChatGPT Plus-klanten. Ontwikkelaars hebben toegang tot het model via een API.
GPT-4 is het meest geavanceerde neutrale netwerk dat OpenAI op dit moment heeft. Het kan tekst en code genereren, maar ook andere ingewikkelde taken uitvoeren, zoals hackpogingen detecteren. Volgens OpenAI slaagt GPT-4 voor een gesimuleerd bar-examen met een score rond de top 10 procent van de testpersonen. Het vorige model, GPT-3.5 scoorde nog bij de onderste 10 procent van de testpersonen.
lees ook
OpenAI onthult GPT-4 met meer creativiteit en logisch denkvermogen
Klacht over oneerlijke en misleidende bedrijfspraktijken
Volgens de klacht staat de commerciële release van GPT-4 in strijd met Sectie 5 van de FTC-wet. Dat deel van de wet verbiedt oneerlijke en misleidende bedrijfspraktijken. CAIDP beweert dat OpenAI probeert verantwoordelijkheid af te schudden voor oneerlijke en misleidende toepassingen van zijn technologie.
“Het bedrijf probeert onwettige, misleidende, oneerlijke en gevaarlijke toepassingen voor zijn product af te wijzen die voor veel gebruikers vanzelfsprekend zouden zijn”, zegt CAIDP in zijn klacht. “Het zou gewetenloos zijn voor elk bedrijf in een andere marktsector om een product aan het publiek te verkopen dat zoveel bekende risico’s met zich meebrengt en vervolgens proberen om verantwoording af te wijzen.”
Om zijn argument te ondersteunen, haalt CAIDP in de klacht een recente verklaring van de FTC aan waarin staat dat “alleen klanten waarschuwen voor misbruik of hen vertellen dat ze informatie moeten verstrekken, nauwelijks voldoende is om kwaadwillenden af te schrikken.”
Onderzoek en regelgeving
In haar klacht vraagt de CAIDP aan de FTC om een onderzoek naar OpenAI te openen. Bovendien wil de groep “toekomstige commerciële inzet van GTP” opschorten totdat OpenAI voldoet aan de richtlijnen van de FTC voor AI-producten.
Bovendien stelt CAIDP een aantal regelgevend stappen voor, waaronder het verplicht maken van “onafhankelijke beoordeling gedurende de levenscyclus van GPT AI” en het creëren van een mechanisme voor het melden van regelovertredingen met betrekking tot GPT-4. Verder vraagt het de FTC om basisnormen vast te stellen voor de generatieve AI-markt.
Meer organisaties maken zich zorgen
Hoewel AI zegt externe experts te hebben gevraagd om de potentiële risico’s van GPT-4 te beoordelen, is CAIDP niet de eerste groep die zich zorgen maakt over de snelle ontwikkelingen op het gebied van AI. Zo meldt Arstechnica dat ook het Future of Life Institute een open brief waarin het AI-labs aanspoort om trainingen van AI-systemen die krachtiger zijn dan GPT-4 onmiddellijk voor tenminste 6 maanden te onderbreken. Deze brief werd ondertekend door een aantal opmerkelijke namen, waaronder Elon Musk en Steve Wozniak.