Het vertrouwen in artificiële intelligentie (AI) door consumenten is nog ver te zoeken. Veel consumenten begrijpen niet in hoeverre AI hun interacties met bedrijven beter en efficiënter kan maken.
Dit blijkt uit een wereldwijd onderzoek van Savanta onder 5.000 respondenten in opdracht van softwareleverancier Pegasystems. Het onderzoek richtte zich op meningen en ideeën over AI, ethisch gedrag, empathie en het moraal. Het onderzoek is gepresenteerd tijdens PegaWorld 2019 in Las Vegas.
Wantrouwen
Naast dat consumenten erg cynisch zijn over bedrijven waarmee ze zaken doen, heerst er ook wantrouwen tegenover AI. Zo vindt 60 procent van de respondenten dat AI de klantenservice van bedrijven waarmee zij in contact staan, niet verbetert. Slechts een kleine 30 procent voelt zich prettig bij bedrijven die AI inzetten om te communiceren en maar 9 procent voelt zich erg op zijn gemak.
Daarbij is een derde van alle respondenten bezorgd dat machines hun werk zullen overnemen. Ruim 27 procent ervaart de opkomst van robots en de daarbij komende beperking van professionele menselijke vrijheid als zorgelijk. Bovendien denkt 65 procent dat bedrijven niet de belangen van de klant behartigen. Hier rijst de vraag hoeveel vertrouwen zij hebben in de technologie die bedrijven inzetten om met de klant te communiceren.
Dat AI onbevooroordeeld beslissingen kan nemen, wordt door weinig consumenten geloofd. Ruim 53 procent is van mening dat AI altijd beslissingen neemt op basis van de vooroordelen van diegene die de oorsponkelijke instructies heeft opgesteld, ongeacht hoeveel tijd er sindsdien is verstreken.
Menselijk contact
Bovendien blijkt uit het onderzoek dat menselijk contact nog altijd de voorkeur heeft. Ruim 70 procent van de respondenten heeft liever menselijk contact. Daarbij heeft 86 procent meer vertrouwen in mensen dan AI. Zeker als het gaat over het nemen van beslissingen over leven en dood. Gevoelens die samenhangen met ethiek en empathie binnen AI.
Een kleine 12 procent van de respondenten is van mening dat AI het verschil opmerkt tussen goed en kwaad. Zo’n 56 procent denkt dat het niet mogelijk is machines te ontwikkelen die zich moreel gedragen. Slechts 12 procent gelooft ooit interactie te hebben gehad met een machine die enige empathie toonde.
Ethische beslissingen
“Waarschijnlijk spreken consumenten liever met een persoon, omdat ze meer vertrouwen hebben in mensen. Zij denken ten onrechte dat zij hun beslissing mogelijk kunnen beïnvloeden. Waar wij naartoe moeten is dat AI-systemen bedrijven helpen bij het nemen van ethische beslissingen. Om het voorbeeld van een bank te geven: naast het volgen van wettelijke procedures voor het aanvragen van een lening, moeten banken ook kunnen bepalen of het ethisch een juiste beslissing is”, aldus Dr Rob Walker, vice-president, decisioning en analystics bij Pega.
“Belangrijk binnen de ontwikkeling van kunstmatige intelligentie is het toevoegen van richtlijnen waardoor ethische overwegingen boven machine learning worden geplaatst. Hierdoor kunnen AI-systemen beslissingen nemen binnen de context van klantbetrokkenheid waaruit empathie blijkt en waarbij het lijkt alsof ze door een mens zijn genomen”, gaat Walker verder.
“Het is niet de bedoeling dat AI de enige ‘empathie-waakhond’ wordt binnen een organisatie. Het zal er ook niet voor zorgen dat klanten organisaties van het ene op het andere moment vertrouwen. Door binnen een bedrijf een cultuur van empathie te creëren, kunnen bedrijven AI inzetten als krachtig middel om zich te onderscheiden ten opzichte van hun concurrenten.”