In de Verenigde Staten wordt een ‘veiligheidsconsortium’ uit de grond gestampt om de ontwikkeling van AI in goede banen te leiden. Met onder meer Google, Microsoft, OpenAI, Nvidia en Meta zijn alle grote spelers uit de sector vertegenwoordigd.
Het Amerikaanse NIST, bedenker van het bekende framework voor cybersecurity, kondigt de stichting van het AI Safety Institute aan. In dit consortium zullen partijen uit de publieke en private sector de koppen bijeensteken en gegevens uitwisselen over hoe AI-technologie onder controle te houden. De organisatie heeft de volgende doelen:
- Het ontwikkelen van nieuwe richtlijnen, hulpmiddelen, methoden, protocollen en best practices rond beveiligde en betrouwbare AI.
- Het ontwikkelen van richtlijnen en benchmarks voor het identificeren en evalueren van AI-capaciteiten die mogelijke schade kunnen veroorzaken.
- Ontwikkelen van benaderingen om veilige ontwikkelingspraktijken voor generatieve AI op te nemen.
- Het ontwikkelen van methoden en praktijken voor het succesvol ‘red-teamen’ van machine learning-modellen.
- Manieren ontwikkelen om door AI gegenereerde digitale inhoud te verifiëren.
- Het specificeren en stimuleren van vaardigheden van AI-werknemers.
Goed gezelschap
Bedrijven uit de sector kondigen zich tot 15 januari aanmelden voor het consortium. Meer dan zeshonderd organisaties deden dat, waar NIST een selectie van 200 partijen uitmaakte. Alle grote spelers uit de tech- en AI-industrie doen mee, waaronder Apple, Anthropic, Cisco, Hewlett Packard Enterprise, Hugging Face, Microsoft, Meta, NVIDIA, OpenAI, Salesforce. Concurrenten kunnen zich dus soms ook vinden in gemeenschappelijke doelen.
Beveiliging en regulering van AI-technologie is ook over de oceaan een belangrijk thema. Naar het voorbeeld van de Europese Unie keurde het Witte Huis vorige maand een pakket aan regels voor AI-bedrijven goed. Echter lijkt het in de Verenigde Staten wel sneller tot concrete maatregelen te komen. De Europese AI Act blijft toertjes draaien in de administratieve molen en moet eerst nog langs meerdere goedkeuringsrondes passeren alvorens in werking te kunnen treden.
De techreuzen verenigden zich eerder ook al in de AI Alliance. Dit initiatief, getrokken door Meta en IBM, heeft als doel om open standaarden en modellen rond artificiële intelligentie te ontwikkelen. Grote afwezige in dit project is, lichtjes ironisch, OpenAI.
lees ook