IBM helpt met het beleid van AI

IBM zet de deuren van watsonx.governance open voor organisaties die op verantwoorde wijze met AI willen omspringen. Dit platform is ontwikkeld om het beheer en beleid van AI-modellen te automatiseren.

IBM kondigt vandaag aan dat watsonx.governance vanaf begin december beschikbaar zal zijn voor gebruik. Governance is het derde luik dat IBM toevoegt aan het eerder dit jaar gelanceerde watsonx-platform. Het is zeker niet het onbelangrijkste: onder druk van de publieke opinie en aanstaande wetgevingen worden organisaties aangespoord om hun verantwoordelijkheid te nemen in het ontwikkelen van AI-modellen.

Trilogie

Watsonx.governance is onderdeel van watsonx, een geïntegreerd platform dat de hele levenscyclus van AI-modellen moet omvatten. Het platform begint bij watsonx.ai, waar ontwikkelaars aan de slag kunnen om modellen te bouwen en te trainen. Daarbij kunnen ze hun eigen neurale netwerken aanleveren of kiezen uit de catalogus van IBM. Watsonx.data is het luik dat zich ontfermt over het bewaren van de vele gegevens die vereist zijn voor het trainen van LLM’s. Daar komt nu dus nog watsonx.governance bij.

Verantwoorde AI

Organisaties die met AI werken, kunnen en mogen daar niet zomaar alles mee doen. Modellen zijn zeer gevoelig voor deviaties in de data die de output van systemen kunnen vertekenen. Christina Montgomery, Chief Privacy & Trust Officer bij IBM, kadert het belang van dit derde luik tijdens de persbabbel. “Beleid mag geen nagedachte zijn bij het ontwikkelen van AI-modellen. Organisaties moeten het nu juist doen.”

WatsonX.Governance biedt niet alleen ondersteuning bij het faciliteren van de naleving van interne beleidsregels, branchenormen en zowel huidige als toekomstige regelgeving, maar ondersteunt ook klanten bij het handhaven van verantwoordelijkheid op het niveau van het gebruiksscenario. Essentieel hierbij is het begrijpen van hoe modellen worden getraind, met welke gegevens dit gebeurt, hoe ze tot hun aanbevelingen komen, en of ze regelmatig worden gecontroleerd op schadelijke vooringenomenheid.

IBM biedt geautomatiseerde mogelijkheden die alle drie de belangrijkste pijlers van AI-governance bestrijken, namelijk: levenscyclusbeheer, risicobeheer en naleving. Het platform omvat onder andere:

• Het monitoren van nieuwe LLM-metingen: Bewaak en alarmeer zowel input als output van LLM’s wanneer vooraf ingestelde drempels worden overschreden voor kwaliteitsmetingen.
• Inzicht in LLM-ontwikkeling: Verzamel automatisch informatie over het modelbouwproces, terwijl beslissingen worden uitgelegd om hallucinaties en andere nieuwe risico’s te verminderen.
• Transparantie van de AI-levenscyclus voor LLM’s: Documenteer automatisch modelgegevens in alle stadia van de levenscyclus, bewaak drift voor tekstmodellen en volg gezondheidsgegevens zoals gegevensgrootte, latentie en doorvoer om knelpunten en rekenintensieve workloads te identificeren.
• Validatietools voor LLM’s: Maak het voor ingenieurs mogelijk om de output van Language Model (LLM) te integreren met bijgeleverde context- en referentiegegevens in Q&A-scenario’s. Hierdoor kunnen ze beoordelen of het LLM op een geschikte manier wordt beïnvloed door de referentiegegevens, en zo waarborgen dat de gegenereerde output relevant is voor de specifieke context.

IBM watson.governance is vanaf begin december beschikbaar. In het eerste kwartaal van 2024 breidt IBM de capaciteiten wellicht nog verder uit.