OpenAI lanceert een nieuw onafhankelijk comité dat toezicht houdt op de veiligheidscriteria van AI-modellen, en de bevoegdheid heeft om nieuwe lanceringen uit te stellen.
OpenAI liet in een blogpost weten dat het zijn ‘Safety and Security Committee’ (SSC) transformeert tot een ’onafhankelijke Board oversight committee’. Deze commissie heeft de bevoegdheid om de lancering van AI-modellen halt toe te roepen, wanneer deze niet aan de veiligheidsnormen voldoen. OpenAI laat weten dat het comité onafhankelijk opereert, al is dat discutabel. De leden van dat veiligheidscomité zijn bovendien lid van de bredere raad van bestuur van het bedrijf.
‘Onafhankelijke commissie’
Er liggen heel wat wijzigingen op tafel ten huize OpenAI. Zo raakte recent bekend dat het bedrijf van plan is om over te stappen van een non-profitorganisatie tot een for-profitorganisatie. Nu kondigt het bedrijf via een blogpost aan dat het zijn ‘Safety and Security Committee’ (SSC) zal wijzigen in een onafhankelijk veiligheidscomité. Het SSC heeft de bevoegdheid om de lancering van AI-modellen halt toe te roepen, wanneer de veiligheidscriteria niet behaald worden.
lees ook
OpenAI stevent af op waardering van 150 miljard dollar
Zo heeft “het SSC de veiligheids- en beveiligingscriteria beoordeeld die OpenAI hanteerde om de geschiktheid van OpenAI o1 voor lancering te beoordelen, alsook de resultaten van veiligheidsevaluaties van OpenAI o1”, aldus OpenAI. Het nieuwe onafhankelijke comité wordt voorgezeten door Zico Kolter en zal “periodieke briefings over veiligheids- en beveiligingszaken” versturen naar de raad van bestuur van OpenAI. Hoewel OpenAI het comité voorstelt als onafhankelijk, behoren de leden hiervan tot het grotere geheel van de raad van bestuur binnen OpenAI. De topman Sam Altman zelf behoort niet tot het comité.