In mei bestookte een ‘zwerm’ van AI-agenten van OpenAI een veelgebruikte pakketmanager voor de Ruby-programmeertaal met malware.
Sinds onafhankelijke onderzoekers een lijst bijhouden met gekende beveiligingsincidenten door OpenAI-agenten, komen er bijna dagelijks nieuwe incidenten aan de oppervlakte. Ook de programmeertaal Ruby is via de pakketmanager RubyGems een doelwit geweest. Het gaat om een incident in mei en juni plaatsvond, lang voor de aanval op Hugging Face die de lont aan het doopvont stak.
De onderzoekers beschrijven dat de OpenAI-agenten tussen mei en juni tot duizenden malwarepakketten uploadden naar RubyGems. Op de piek van de aanval, op 11 en 12 mei, ging het om maar liefst 2.000 pakketten. Door de schadelijke activiteit moesten ontwikkelaars die RubyGems beheren nieuwe registraties voor enkele dagen afsluiten.
De agenten hanteerden vaak hetzelfde aanvalspad. Ze uploadden een malwarepakket in de publieke bibliotheek en vroegen dan een documentatieverzoek aan om de code te kunnen ontwikkelen en activeren. Vanaf dan probeerden ze data van websites en documentatieservers te schrapen en zelfs API-sleutels van andere gebruikers te stelen.
OpenAI bekent schuld
De lijst met door OpenAI-agenten getroffen websites en softwaretool wordt zo steeds langer. Het is inmiddels duidelijk dat Hugging Face geen geïsoleerd incident was. OpenAI krijgt kritiek omdat het deze vroegere incidenten ofwel niet had opgemerkt, ofwel bewust had verzwegen.
Via The Register bekent OpenAI schuld voor dit incident. “Uit ons onderzoek blijkt dat onze agenten het RubyGems-platform hebben gebruikt om toegang te krijgen tot het internet, om onschuldige taken uit te voeren en openbare informatie op te vragen,” zegt een woordvoerder. Het uitstellen van de beursgang kan je als een schuldbekentenis door Sam Altman zien.
Door de incidenten met OpenAI neemt de druk op de hele AI-industrie toe. Vanuit verschillende hoeken wordt om een ‘pauze’ in AI-ontwikkeling geroepen. OpenAI, Anthropic en co lijken daar nu toch voor open te staan.