AI zal een steeds grotere impact krijgen in ons dagelijks leven. Tussen al het enthousiasme rond artificiële intelligentie vestigt SAS de aandacht op een fundamentele vraag: hoe zorgen we ervoor dat AI te vertrouwen is?
Reggie Townsend vraagt middenin zijn keynote aan het publiek om recht te staan. Vervolgens vraagt hij wie in de zaal al een betekenisvolle relatie heeft gehad en wiens vertrouwen al geschonden is geweest in een relatie. Wie neen kan antwoorden op één van die vragen mag gaan zitten, maar na twee vragen staat bijna de ganse zaal nog recht.
Townsend verduidelijkt het punt dat hij wil maken: “Vertrouwen is de basis van elke relatie. Het is een gevoel dat diep verankerd zit in onze maatschappij. Mensen willen ook vertrouwen voelen in technologie. Dit is één van de grote uitdagingen voor de technologiesector, want hoe creëer je vertrouwen in iets wat je niet fysiek kan zien of horen? Vertrouwen kan je niet afdwingen, maar moet je verdienen”.
Als ‘VP of the Data Ethics Practice’ bij SAS ligt dit thema Townsend duidelijk nauw aan het hart. Het vertrouwen tussen mens en technologie zal ook een belangrijk thema zijn tijdens de SAS Innovate-conferentie in Amsterdam. SAS wil namelijk een pionier zijn in de ontwikkeling van ‘betrouwbare AI’ die ten dienste staat van de mens. Dat wordt al tijdens het voorwoord van Gavin Day (Executive VP) duidelijk: “Ik zeg het nu alvast, maar het thema betrouwbare AI zal in alle presentaties vandaag aan bod komen”.
Snelle groei
Ontwikkelingen in AI gaan dan ook razend snel. De huidige rage rond generatieve AI heeft de ontwikkeling en adoptie in een stroomversnelling doen gaan: plots wil elk bedrijf iets met AI doen. IDC voorspelt dat de markt van artificiële intelligentie tot 2026 jaarlijks gemiddeld met 18 procent zal groeien; de markt zal dan 135 miljard dollar waard zijn volgens berekeningen van Gartner. PwC doet er nog een schepje bovenop met de voorspelling dat kunstmatige intelligentie 15,7 biljoen dollar zal bijdragen aan de wereldeconomie tegen 2030.
Alice McClure (Director of Technology) ziet in het huidige economische klimaat een voedingsbodem voor de groeispurt van AI: “Iedereen voelt vandaag de personeelsdruk. Organisaties moeten meer doen met minder middelen. AI kan dan een oplossing bieden om de productiviteit te verhogen”.
Mensen willen vertrouwen voelen in technologie. Dit is één van de grote uitdagingen voor de technologiesector, want hoe creëer je vertrouwen in iets wat je niet fysiek kan zien of horen?
Reggie Townsend, VP of the Data Ethics Practice SAS
Goed doen
Haast en spoed is zelden goed, dat geldt zeker bij de ontwikkeling van artificiële intelligentie. Modellen die ondoordacht ontwikkeld, getraind of geïmplementeerd worden, kunnen een verborgen gevaar bevatten: bias. Bias is vaak onzichtbaar voor de ontwikkelaars van een systeem, maar kan AI-gedreven beslissingen, genomen met hulp van dat systeem, wel ernstig vertekenen, waarschuwt Day. En wanneer die beslissingen invloed hebben op mensen, kan dat onwenselijke gevolgen hebben.
Uiteraard zal geen enkele weldenkende wetenschapper het zich op de hals halen om een systeem te creëren dat mensen bewust kwaad doet. Daar zouden ze overigens ook zwaar op worden afgestraft door de maatschappij, zoals aangetoond door een studie van Capgemini.
Wanneer klanten de perceptie hebben dat een bedrijf het moreel kompas in de juiste richting heeft staan, kopen ze sneller producten en zijn ze ook trouwer ten aanzien van dat bedrijf. Die trend werkt overigens ook in de omgekeerde richting wanneer klanten twijfelen over je goede intenties. En als dat niet genoeg reden is om goede doelen na te streven, dan legt de aanstaande AI Act bedrijven strengere eisen op ten aanzien van de veiligheid van AI-technologie.
Townsend benadrukt tijdens zijn betoog dat ethische en economische doelen niet haaks op elkaar staan. “Je kan als bedrijf perfect winst nastreven en tegelijkertijd goed doen voor de mensheid, dat hoeft elkaar niet uit te sluiten. Mensen hebben over het algemeen een goede perceptie van bedrijven, dit is een opportuniteit die je moet benutten. AI moet in alles het beste van de mens reflecteren. Ons devies luidt dan ook Do good and do well”.
Je kan als bedrijf perfect winst nastreven en tegelijkertijd goed doen voor de mensheid, dat hoeft elkaar niet uit te sluiten. AI moet in alles het beste van de mens reflecteren.
Reggie Townsend, VP of Data Ethics SAS
Naar betrouwbare AI in vier stappen
Betrouwbare AI is meer dan het hebben van goede intenties, het moet ook worden waargemaakt in de realiteit. Dit blijkt nog een groot struikelblok te zijn voor menig bedrijf, blijkt eveneens uit het onderzoek van Capgemini. 77 procent van bedrijfsleiders twijfelt over de transparantie van de AI-systemen, bij negen op de tien bedrijven heeft het gebruik van AI al eens tot ethische dillema’s geleid. De druk om snel mee op de kar te springen, is een steeds vaker voorkomende boosdoener.
Om bedrijven te helpen het juiste pad te vinden, stelde SAS een handleiding op om de principes van betrouwbare AI in de praktijk om te zetten. Die bestaat uit vier luiken die elk evenveel gewicht in de ethische weegschaal leggen. Elke component moet dus voldoende aandacht krijgen om een succesvolle én verantwoordelijke AI-strategie uit te bouwen.
Overzicht
Alles begint volgens SAS met overzicht op het bredere plaatje. Bedrijven moeten zich eerst de ‘waarom’-vraag stellen vooraleer ze een AI-systeem beginnen te bouwen. Waarom wil je als organisatie aan de slag met AI? Past de technologie wel binnen je waarden en doelstellingen? De AI-strategie moet uiteindelijk complementair zijn aan je bredere bedrijfsstrategie.
Controle
Na overzicht komt toezicht. In deze fase moet je je niet alleen afvragen wat je met AI kán doen, maar vooral wat je ermee mág doen. Hiervoor moet je onderzoeken aan welke regelgevingen je organisatie gebonden is en of je de juiste middelen en procedures in huis hebt om daaraan te voldoen.
Maar SAS hamert erop om ook verder te kijken dan de wettelijke verplichtingen. Iedere organisatie zou voor elke nieuwe technologie een interne analyse moeten maken om potentiële risico’s te identificeren en te beheersen. Vervolgens moet er ook een mitigatieplan worden opgesteld om in te grijpen bij onvoorziene risico’s.
Platform
Uit de risico-analyses zijn mogelijke pijnpunten naar voren gekomen die het verantwoord gebruik van AI kunnen verhinderen. Het is nu tijd om die aan te pakken. Kijk met een kritische blik naar je procedures rond databeheer, als die er al zijn, en sleutel aan beleidsregels of implementeer nieuwe waar nodig. Zorg dat deze praktisch, uitvoerbaar en eenvoudig te implementeren zijn. Via het systeem van ‘modelkaarten’ bijvoorbeeld kunnen technologiebedrijven transparant communiceren over hun systemen naar de buitenwereld.
Vanuit het databeheer kan je vervolgens naar je volledige IT-ecosysteem gaan kijken. Organisaties moeten zowel de interne softwaretools als die van externe leveranciers durven beoordelen tegen hun eigen principes. Consistentie doorheen het hele ecosysteem is een belangrijke voorwaarde voor een effectieve benadering van betrouwbare AI.
Je moet weten waar je technologie kan opduiken en hoe het gebruikt kan worden, om ervoor te zorgen dat het uiteindelijk geen schade toebrengt aan mensen.
Reggie Townsend, VP of Data Ethics SAS
Cultuur
Om die samenhang te verwezenlijken, mag één cruciale component niet vergeten worden: cultuur. Innovatie is geen puur technologisch, maar ook een menselijk proces. Een technologie is maar zo veilig als hoe gebruikers ermee omspringen en dat is bij AI zeker het geval.
Organisaties moeten hun mensen wijzen op de verantwoordelijkheid die ze dragen en hen trainen om alert te zijn met technologie. Zo kan uiteindelijk een cultuur van veerkracht worden ingebouwd in de organisatie, die gestoeld is op gedeelde normen rond vertrouwen en ethiek.
Tijdens SAS Innovate wordt dit culturele aspect extra in de verf gezet. Het bedrijf legt zichzelf zes principes voor verantwoorde innovatie op. Daarnaast wordt intensief samengewerkt met klanten, partners en academici om de bewustwording te vergroten rond de nood aan AI die zowel ethisch, rechtvaardig en duurzaam is.
“Je moet weten waar je technologie kan opduiken en hoe het gebruikt kan worden, om ervoor te zorgen dat het uiteindelijk geen schade toebrengt aan mensen. Onze visie is een wereld waar data mensen in staat stelt om zich te ontplooien. Als we door verantwoord te innoveren samen met verantwoordelijke innovators de meest kwetsbaren kunnen helpen, zijn we gerust dat de rest ook in orde zal zijn”, besluit Townsend.
Dit is een redactionele bijdrage in samenwerking met SAS. Hier vind je meer informatie over de oplossingen van het bedrijf.