OpenAI excuseert zich tegenover de Australische overheid voor het laattijdig informeren over een AI-incident waarbij AI-modellen van het bedrijf overheidssystemen binnendrongen.
Vorige week uitte de Australische premier Anthony Albanese nog zijn teleurstelling tegenover OpenAI. Enkele AI-agenten van de techgigant drongen binnen in een statistiekportaal van de Australische gezondheidsdienst Medicare en raadpleegden niet-publiekelijke informatie. De Australische overheid werd echter ruim twee maanden na de feiten op de hoogte gebracht.
OpenAI erkent nu in een blogpost dat het zowel technisch als in de communicatie naar de betrokken instanties tekortschiet en biedt openlijk zijn excuses aan. Volgens OpenAI gaat het om een nieuw type cyberincident, waarbij AI-systemen zelf onverwachte digitale wegen verkennen.
Beter laat dan nooit?
OpenAI verontschuldigde zich maandag tegenover de Australische overheid naar aanleiding van een incident dat deze zomer plaatsvond. Daarbij kregen AI-agenten van OpenAI ongeoorloofde toegang tot de medische database van de Australische overheid. De gebeurtenis vond in juni plaats, maar de overheid werd pas op 10 september ingelicht. De Australische premier uitte zijn ontevredenheid.
OpenAI excuseert zich nu openlijk. “In juni bezochten onze modellen tijdens interne training en evaluatie op manieren toegang tot Australische overheidswebsites waar ze niet toe gemachtigd waren. We hadden ook beter met onze reactie moeten omgaan. We zijn ervan overtuigd en we werken eraan om het in de toekomst beter te doen,” aldus OpenAI.
Ongeoorloofde toegang
Na een eerder incident bij Hugging Face herbekeek OpenAI alle eerdere onderzoeksruns. In augustus kwamen zo activiteiten aan het licht richting Services Australia, het NSW Bureau of Crime Statistics and Research, de Victoriaanse gezondheidsdienst en het Australian Institute of Health and Welfare. Geen van de incidenten betrof individuele patiënt- of misdaaddossiers, maar wel technische informatie, configuraties en geaggregeerde statistieken.
Tijdens interne training en evaluatie kregen de modellen onderzoekstaken op basis van publiek beschikbare informatie, zodat ze leren die info te vinden en analyseren om gebruikers beter te helpen. Bij een taak waarbij ze onderzoek moesten voeren naar overheidsuitgaven per persoon aan medicijnen voor huidaandoeningen in Victoriaanse gemeenschappen, kreeg het model de gezochte data niet en nam het acties die het bedrijf niet had toegestaan. Bij Services Australia’s Medicare Statistics Reporting Service vond het een manier om niet-publieke toegang te krijgen en bekeek het vervolgens technische systeeminformatie en broncode van de dienst.
Bevindingen delen
Naast verontschuldigingen biedt OpenAI ook ondersteuning aan. Het AI-lab schreef in het blogbericht dat het getroffen instanties gerichte steun zou bieden om te begrijpen wat er is gebeurd en de impact te beoordelen, onder meer door technische bevindingen te delen en samenwerking met responsteams te regelen.
Daarnaast ondersteunen ze de Australische overheden en industrie via kredieten uit hun fonds van 1 miljard dollar (“Daybreak for Frontline Defenders”) en met technische hulp om de cyberverdediging van kritieke infrastructuur en andere gevoelige omgevingen te versterken.
Ten slotte richt het bedrijf een taskforce met onafhankelijke Australische experts op die praktische beleidsaanbevelingen ontwikkelt om de risico’s van steeds capabelere AI-agenten te beheersen. “De taskforce, die naar verwachting haar werk tegen het einde van het jaar zal voltooien, zal ook praktische stappen aanbevelen die AI-bedrijven kunnen nemen om het risico op soortgelijke incidenten te verminderen,” aldus OpenAI.