Volgens een analist van Gartner zouden gebruikers op vrijdagnamiddag te moe zijn om slechte output van Copilot te rapporteren.
Dennis Xu, een analist bij Gartner, heeft bij wijze van grapje voorgesteld om Copilot van Microsoft te verbieden na vrijdagmiddag. Gebruikers zouden volgens hem te moe zijn om slechte output ervan nog goed te controleren, weet The Register. Daarmee wijst hij op de risico’s die verbonden zijn met Copilot.
AI vergroot bestaande risico’s
Volgens Xu wordt een bestaand risico versterkt door AI: het onbedoeld delen van data. Copilot kan informatie ophalen uit systemen zoals SharePoint, waardoor slecht geconfigureerde toegangsrechten sneller zichtbaar worden.
Een medewerker kan bijvoorbeeld via Copilot toegang krijgen tot vertrouwelijke documenten omdat de rechten verkeerd zijn ingesteld. Bedrijven moeten daarom inzetten op betere monitoring en strengere toegangscontrole om te vermijden dat gevoelige informatie onbedoeld wordt gedeeld.
Prompt attacks en externe koppelingen
Xu haalde daarnaast meerdere technische risico’s aan. Zo kan Copilot kwetsbaar zijn voor promptinjectie, waarbij gebruikers of aanvallers de AI proberen te misleiden om beveiligingsregels te negeren.
Ook koppelingen met externe SaaS-applicaties vormen een risico. Copilot kan via dergelijke integraties toegang krijgen tot gevoelige data buiten de eigen Microsoft-omgeving. Daarom zegt Xu om die koppelingen alleen toe te staan als ze nodig zijn en om contentfilters en beveiligingsinstellingen actief te gebruiken.
Een ander risico is dat Copilot output genereert die ongepast is in een professionele context, zelfs wanneer de informatie correct is. Volgens Xu moeten gebruikers daarom altijd AI-output controleren voordat die wordt gedeeld.