Vier groten namen in technologie starten een gezamenlijk project om te werken aan de ontwikkeling van meer verantwoordelijke frontiermodellen in AI.
Google, Microsoft, Anthropic en OpenAI starten samen het project Frontier Model Forum. Met dit gezamenlijk initiatief willen de vier Amerikaanse tech-bedrijven zich inzetten voor een veilige en meer verantwoordelijke ontwikkeling van frontier-AI-modellen.
Doelen
De nieuwe organisatie definieert frontier-AI als modellen die op grote schaal aan machine learning doen en die de capaciteiten van wat de meest geavanceerde huidige modellen aankunnen, ruimschoots overschrijden. Ze moeten bovendien een grote waaier aan taken kunnen uitvoeren.
Frontier Model Forum rekent op de technische expertise van zijn leden, om voor iedereen een beter AI-ecosysteem te creëren. Dit kan door meer geavanceerde evaluaties van de technologie, maar ook met benchmarks om rekening mee te houden en door de aanleg van een digitale bibliotheek voor oplossingen en standaarden, waar de hele industrie gebruik van kan maken.
Het initiatief heeft vier belangrijke objectieven:
- Meer onderzoek naar AI-veiligheid, om een veilige ontwikkeling van frontier-AI te garanderen, risico’s te beperken en standaard evaluaties vast te leggen
- De ideale manier van werken vastleggen om frontiermodellen op een verantwoordelijke manier te ontwikkelen en in te zetten
- Samenwerken met relevante mensen en organisaties om kennis te delen
- Projecten ondersteunen die maatschappelijk belangrijke zaken aanpakken, zoals de klimaatverandering, cybersecurity en kankeronderzoek
lees ook
OpenAI haalt AI-detecterende tool terug offline
Verder stappen
Dit nieuwe project staat open voor organisaties en bedrijven die bezig zijn met frontiermodellen, die het belang van veiligheid onderschrijven en actief willen meewerken aan de objectieven van het Frontier Model Forum.
Om nu verder te gaan richten de vier leden de komende maanden een adviesraad op. De stichters gaan ook zorgen voor een charter, financiering en een bestuur. Er volgt bovendien nog overleg met verschillende overheden.
Dubbel gevoel
Dit project zet nogmaals de dualiteit in de verf die in de sector heerst over AI. Langs de ene kant wordt er volop ingezet op de steeds groeiende technologie en breiden de functies en mogelijkheden alsmaar uit, langs de andere kant is er de voorzichtigheid en soms zelfs achterdocht vanuit diezelfde sector.
De afgelopen maanden zijn er genoeg statements en blogs gepubliceerd die toch aanmanen om heel voorzichtig om te springen met AI. Zoals het statement van een aantal prominenten, eind mei of de kijk op de jobmarkt, van OpenAI-topman Sam Altman.