Generatieve AI is overal, maar weinig plaatsen zo uitdagend als de publieke sector. We bekijken met SAS wat de opportuniteiten, uitdagen en risico’s zijn.
Nu overheidsinstanties en -organisaties het potentieel van AI en data-analyse blijven omarmen, is het cruciaal om de verschillende tools en technologieën te onderzoeken. Tijdens SAS Innovate on Tour in Rotterdam spreken we daarover met Michel Philippens, Analytics Advisor en verantwoordelijk voor klantoplossingen.
Hij gaat dieper in op de uitdagingen en kansen van het implementeren van AI in de publieke sector. Van het beperken van de risico’s van AI tot het moderniseren van de dienstverlening, alles komt aan bod. Allereerst wil hij starten bij de basis.
Opportuniteiten
Generatieve AI (GenAI), die kan leren van diverse gegevensvormen zoals tekst, afbeeldingen, audio en 3D-modellen, kan nieuwe output genereren zoals gesprekken, video’s, afbeeldingen en 3D-systemen. Er zijn volgens Philippens vier opportuniteiten voor GenAI in de publieke sector:
- Vraag en antwoord: Verbeteren van klant- en cliëntenservices door middel van chatbots die vragen kunnen beantwoorden en diensten kunnen aanpassen.
- Contentcreatie: Genereren van verschillende soorten content, waaronder e-mails, berichten op sociale media, contracten en voorstellen.
- Contensamenvatting en informatieophaling: Het extraheren van relevante inzichten uit grote kennisverzamelingen.
- Codering, software en datawetenschap: De verbetering van de productiviteit in softwareontwikkeling door het automatiseren van codering en testen.
Bovenstaande zaken worden vandaag al volop door organisaties omarmd. Voor de publieke sector ziet Philippens heel wat kansen. “Neem nu regulering en wetgeving: je kan enorm veel tijdswinst boeken in het maken en analyseren van regelgeving. Ook het verbeteren van de ontwikkeling en implementatie van beleid en programma’s, behoort tot de mogelijkheden.”
“De lijst blijft doorgaan: tools voor beter bestuur en beheer, verbeteren van de efficiëntie en kwaliteit van openbare diensten, stroomlijnen van interne processen door middel van automatisering.”
Spelregels
In theorie kunnen we Philippens’ relaas prima volgen, maar de overheid heeft doorgaans wel striktere spelregels omwille van persoonsgegevens. In zijn presentatie komen de belangrijkste uitdagingen en barrières aan bod. “Het potentieel is enorm, maar er zijn wel wat zaken die de implementatie van GenAI belemmeren.”
Hij zet de belangrijkste uitdagingen op een rij:
- Privacy en veiligheid: Risico’s van gegevensmanipulatie, diefstal en het genereren van valse informatie.
- Nauwkeurigheid: Uitdagingen bij het waarborgen van feitelijke correctheid en contextuele relevantie van AI-uitgangen.
- Kosten en beheer: Hoge computationele eisen, veranderende commerciële modellen en de noodzaak van beheerskaders.
- Juridische en ethische zorgen: Problemen zoals AI-aanvallen door promptinjectie, juridische aansprakelijkheden en naleving van regelgeving zoals de EU AI-wet.
SAS benadrukt enkele belangrijke zaken om generatieve AI effectief te implementeren. We sommen de belangrijkste hieronder op:
- Bepaal je risicohouding: Beoordeel de potentiële risico’s en stel een duidelijk risicomanagementstrategie op.
- Identificeer en prioriteer use cases: Focus op gebieden met hoge impact waar GenAI aanzienlijke waarde kan toevoegen.
- Ontwikkel GenAI-apps met eindgebruikers: Betrek eindgebruikers in het ontwikkelingsproces om ervoor te zorgen dat de tools aan hun behoeften voldoen.
- Houd mensen in de loop: Zorg voor menselijk toezicht om controle en verantwoordelijkheid te behouden.
- Communicatie- en opleidingsplan: Ontwikkel een uitgebreid plan om belanghebbenden en gebruikers voor te lichten over GenAI.
- Selecteer geschikte LLM’s: Kies geschikte modellen die passen bij de behoeften en beperkingen van de organisatie.
- Upgrade infrastructuur en gegevenscapaciteiten: Zorg voor de nodige infrastructuur en gegevensbeheerpraktijken.
- Ontwikkel nieuwe vaardigheden en rollen: Ontwikkel nieuwe competenties en rollen binnen de organisatie om GenAI-initiatieven te ondersteunen.
- Begin klein en schaal op: Begin met pilotprojecten en breid geleidelijk uit naarmate de organisatie ervaring en vertrouwen opbouwt.
Praktijkvoorbeeld
De theorie is fijn, maar Philippens heeft gelukkig ook een duidelijk praktijkvoorbeeld in zijn presentatie verwerkt. “Legal-experts binnen de overheid moeten vaak door duizenden pagina’s wetgeving zoeken om relevante paragrafen te vinden. Daarnaast moeten experts ook rekening houden met eerdere interpretaties.”
In een demo zien we dat SAS het pdf-document van de EU AI Act in een LLM stopt. Door middel van een heel specifieke vraag toont het model het antwoord (in samenwerking met specialist Notilyze). Het resultaat is een duidelijk antwoord met extra informatie. Daarmee kan je gericht zoeken naar bevestiging, wat heel wat tijd scheelt.
“Large language models moeten overheden helpen om hun eigen data te mijnen. Door middel van begeleiding kunnen ze dan verder onderzoeken.”
Conclusie
Hoewel generatieve AI veelbelovend is voor het transformeren van operaties in de publieke sector, vereist succesvolle implementatie zorgvuldige overweging van potentiële risico’s, strategische planning en continu menselijk toezicht.
Door de beschreven beste praktijken te volgen, kunnen overheidsinstanties GenAI benutten om efficiëntie te verbeteren, diensten te verbeteren en betere besluitvorming te ondersteunen.
Dit is een redactionele bijdrage in samenwerking met SAS. Voor meer details over de AI-oplossingen van SAS kan je hier terecht.