Een groep van grote technologiebedrijven, waaronder OpenAI en Anthropic, richt samen een coalitie op voor het waarborgen van de veiligheid van AI-toepassingen.
De Coalition for Secure AI (CoSAI) werd aangekondigd op het Aspen Security Forum. Deze coalitie is opgericht door enkele grote spelers in de technologiewereld waaronder OpenAI en Anthropic, maar ook uit de publieke markt wordt de groep ondersteund door techgiganten zoals AWS, Microsoft, Nvidia en Google. Het doel van deze coalitie is om allesomvattende veiligheidsmaatregelen te bevorderen om de risico’s van AI aan te pakken. De coalitie wordt ondergebracht bij OASIS, het internationale standaarden- en open source-consortium.
Doelstellingen
De Coalition for Secure AI, of kortweg CoSAI, is de nieuwe coalitiegroep gevormd door enkele grote spelers op de technologiemarkt. Met deze groep willen de bedrijven tools en technische begeleiding aanbieden om organisaties te helpen met het beveiligen van hun AI-toepassingen. Daarnaast moet het ook opereren als een ecosysteem waarin bedrijven AI-gerelateerde best practices en technologieën binnen cyberbeveiliging kunnen delen.
lees ook
Europese AI Act gaat in op 1 augustus
Om bovenstaande doelstellingen te behalen, lanceert CoSAI drie open-source werkstromen waarbij elk project een ander subset van taken behandelt. Zo is het eerste project bedoeld om softwareteams te helpen bij het zoeken naar cyberveiligheidsrisico’s, en focust het tweede zich op het verlichten van het werk om AI-cyberveiligheidsrisico’s te beperken. Tot slot is het derde project gericht op het aanpakken van risico’s in de softwaretoeleveringsketen. Hierbij gaat het over kwetsbaarheden die veroorzaakt worden door softwarecomponenten uit externe bronnen, zoals bijvoorbeeld GitHub-repository’s.
De CoSAI richt zich daarnaast op het ontwikkelen van cyberveiligheidsrisico’s die gepaard gaan met AI-modellen van derden. In de toekomst wil de coalitiegroep aanvullende cyberbeveiligingsinitiatieven lanceren, die begeleid worden door AI-experts uit de particuliere en academische wereld.