AI is wijdverspreid en groeit nog steeds snel, dat schrijven we ongeveer dagelijks. Maar er zijn ook nadelen en risico’s aan verbonden, soms met potentieel catastrofale gevolgen. Om dat beter te onderzoeken gaat OpenAI nu zelf meer aan de slag.
Er is al heel wat (digitale) inkt gevloeid over de mogelijke gevaren van AI voor de wereld en het voortbestaan van de mens. Van de peetvader van de technologie tot OpenAI’s eigen CEO Sam Altman, die bijvoorbeeld ook aan massaal jobverlies denkt. Het Amerikaanse bedrijf gaat nu zelf meer moeite doen om de risico’s in te schatten, onder andere met een speciaal daarvoor opgericht team.
Een voorbereide ploeg
Het nieuwe team van OpenAI werd het Preparedness team gedoopt en staat onder leiding van Aleksander Madry, professor aan het befaamde instituut MIT. Het team gaat helpen met catastrofale risico’s te tracken, evalueren, proberen voorspellen en ertegen beveiligen.
Madry en zijn ploeg werken in vier categorieën:
- Individuele overtuiging
- Cybersecurity
- Chemische, biologische, radiologische en nucleaire dreiging (CBRN)
- Autonome replicatie en adaptie (ARA)
De missie van Preparedness bevat ook het ontwikkelen en onderhouden van een Risk-Informed Development Policy. Die RDP moet een spectrum van beschermende acties creëren en OpenAI’s aanpak vertegenwoordigen wat betreft evaluatie en monitoring van zijn AI-modellen. Bovendien moet het beleid voor een structuur van verantwoording en overzicht zorgen langsheen het gehele ontwikkelingsproces.
lees ook
OpenAI bekijkt de productie van een eigen AI-chip om ChatGPT aan te sturen
Be prepared
Om nog beter voorbereid te zijn lanceert OpenAI ook de Preparedness challenge. Daarvoor rekent het bedrijf op derden om hen scherp te houden en het team verder uit te bouwen.
Wie dat wil kan ideeën indienen om het team te wijzen op minder voor de hand liggende gebieden waar misbruik van AI catastrofale gevolgen kan hebben.
Er is een beloning tot 25.000 US dollar aan API-krediet voor maximum tien inzendingen en de beste ideeën gaan worden gepubliceerd. Voor wie de ambitie heeft, de uitdaging gaat ook dienen om team Preparedness aan te vullen.