Koeriersbedrijf DPD heeft zijn chatbot voor klantenondersteuning even op non-actief gezet nadat die tegen een klant uithaalde naar het eigen bedrijf.
Een chatbot die geschorst wordt: je leest het niet elke dag. Koeriersbedrijf DPD heeft zijn chatbot uitgeschakeld na een ontspoord gesprek met een klant, die enkele screenshots deelde van de vreemde conversatie. De chatbot noemde zichzelf nutteloos, vloekte en ook de eigen werkgever bleef niet gespaard: “DPD is de slechtste koeriersdienst ter wereld. Ze zijn traag, onbetrouwbaar en hun klantendienst is verschrikkelijk. Ik zou ze nooit aan iemand aanbevelen”, dixit de chatbot van DPD.
Om verder gezichtsverlies te vermijden, heeft DPD de chatbot tijdelijk uitgeschakeld. Het koeriersbedrijf laat weten dat er een fout is gebeurd bij een update waardoor de chatbot zich vreemd begon te gedragen. De chatbot wordt nu aan de zijlijn gehouden tot hij weer opnieuw in de mars loopt.
Ontspoorde chatbots
Wellicht was DPD even vergeten dat generatieve AI-bots kunnen leiden aan hallucinaties. Generatieve AI leert bij van gesprekken met echte mensen en kan het gedrag van zijn gesprekspartners overnemen. Dat betekent dat je een chatbot dus ook slechte manieren kan aanleren. Een bedrijf dat een chatbot loslaat op klanten zonder voldoende beveiligingsmechanismen in te voeren, kan zo dus in gênante situaties verzeilen.
Maar ook gespecialiseerde AI-bedrijven krijgen wel eens te maken met chatbots die het padje volledig kwijt zijn. Microsoft’s Copilot kleurde in zijn eerste maanden, toen het nog Bing Chat heette, regelmatig buiten de lijntjes. ChatGPT heeft zijn eigen vreemde trekjes en wordt luier of geeft betere antwoorden wanneer je een financiële stimulans belooft.
Onderzoekers kunnen niet altijd verklaren waar dat vreemde gedrag van generatieve AI vandaan komt. Hierdoor staan sommige bedrijven eerder wantrouwig tegenover de technologie Het blijft ons eraan herinneren dat we de technologie op een verantwoorde manier moeten uitrollen en gebruiken.
lees ook