IBM schenkt opensource AI-toolkits aan de Linux Foundation

ai netwerk neural

IBM schenkt drie opensource toolkits voor AI-ontwikkeling aan LF AI, een organisatie binnen de Linux Foundation die opensource innovatie in AI en machine learning ondersteunt. De toolkits zijn gericht op een ‘verantwoord gebruik’ van AI.

Het Technical Advisory Committee van LF AI keurde de verhuis van de toolkits eerder deze maand al goed. IBM is momenteel bezig met de overdracht van de projecten naar de organisatie. Eén toolkit is erop gericht om bias uit AI-projecten te halen, terwijl de andere twee zich richten op het beveiligen van neurale netwerken en het verklaarbaar en verifieerbaar maken van hun uitkomsten.

De AI Fairness 360 Toolkit bevat een tiental algoritmen voor het beperken van bias in verschillende componenten van een AI-project. Denk daarbij aan eventuele bias in de data die een AI-model verwerkt, maar ook bias in het model zelf of de voorspellingen die er uit voortkomen.

De Adversarial Robustness 360 Toolbox helpt ontwikkelaars dan weer om hun AI-modellen meer bestand te maken tegen een vijandige aanval, waarbij de aanvaller met opzet verkeerde input in een neuraal netwerk injecteert om de resultaten te beïnvloeden of een foutmelding uit te lokken.

De AI Explainability 360 Toolkit is tot slot bedoeld om een bepaalde uitkomst of beslissing van een AI beter verklaarbaar te maken. Neurale netwerken opereren als een zwarte doos, waardoor het verklaren en verifiëren van hun uitkomsten voor uitdagingen zorgt. De mogelijkheid om dit te kunnen doen, helpt verzekeren dat er geen bias aanwezig is en het model robuust is tegen aanvallen.

“Donatie van deze projecten aan LFAI zal de missie bevorderen om verantwoorde AI-aangedreven technologieën te creëren en de grotere gemeenschap in staat te stellen naar voren te komen en deze tools samen te creëren onder het bestuur van de Linux Foundation”, besluiten IBM-executives Todd Moore, Sriram Raghavan en Aleksandra Mojsilovic in een blogpost.

nieuwsbrief

Abonneer je gratis op ITdaily !
  • This field is for validation purposes and should be left unchanged.
terug naar home