Wie te frequent op ChatGPT vertrouwt om schrijftaken over te nemen, verliest op langere termijn cognitief vermogen met een negatieve impact op onafhankelijk en kritisch denken.
Onderzoekers van het prestigieuze Massachusetts Institute of Technology (MIT) in de VS hebben onderzocht wat de impact is van ChatGPT op de cognitieve capaciteiten van de gebruiker. Hoewel de onderzoekers zelf aangeven dat de resultaten van hun research voorwaardelijk zijn, gezien de ietwat beperkte studiegroep (54 mensen) van voornamelijk studenten, komen ze toch al tot enkele onrustwekkende conclusies. Wie te veel vertrouwt op ChatGPT, zou immers cognitieve capaciteiten verliezen.
Drie groepen
De wetenschappers komen tot die conclusie na een experiment waarbij ze deelnemers in drie groepen verdeelden en de opdracht gaven een opstel te schrijven:
- De LLM-groep: gebruikte uitsluitend ChatGPT bij het schrijven.
- De Search Engine-groep: gebruikte enkel Google (zonder AI).
- De Brain-only groep: schreef zonder enige digitale hulp.
Tijdens het schrijven monitorden de onderzoekers via een EEG de hersenactiviteit. Niet onverwacht stelden ze de grootste hersenactivatie vast bij deelnemers zonder hulpmiddelen. De Search Engine-groep zat ergens tussenin, met de minste gemeten hersenactiviteit voor de groep die met een LLM aan de slag ging.
Na drie schrijfsessies wisselden de groepen van rol. In de vierde sessies moest het team dat uitsluitend op de eigen hersenen vertrouwde, aan de slag met een LLM. Omgekeerd moest de groep die net drie opstellen met LLM had geschreven, aan de bak zonder externe hulptools.
LLM-gebruik zindert na in het brein
Dit experiment leverde de meest verontrustende resultaten op. De EEG toonde immers meer hersenactiviteit bij de Brain-only-groep tijdens het gebruik van het LLM. Omgekeerd steeg de activiteit van de LLM-groep niet evenredig wanneer ze exclusief op hun brein moesten vertrouwen. De impact van de drie eerdere schrijfopdrachten met LLM zinderde duidelijk na.
lees ook
OpenAI maakt o3-pro beschikbaar voor ChatGPT Pro-gebruikers
De onderzoekers interviewden de deelnemers na de experimenten en stelden vast dat de LLM-groep onder andere veel minder in staat was om te quoten wat ze net hadden geschreven dan de andere deelnemers. De groep die met een zoekmachine aan de slag ging, toonde gedurende het hele experiment een gemiddelde hersenactivatie, die hoger bleef dan die van team LLM.
Uit de resultaten concluderen de onderzoekers dat het gebruik van LLM’s een negatieve impact heeft op het leervermogen en de capaciteit om zelf kritisch na te denken.
Verloren capaciteit
De wetenschappers vrezen dat mensen de capaciteit verliezen om kritisch met onderwerpen om te gaan. Hoewel het gebruik van LLM’s in eerste instantie de mentale last van een taak verlicht, staat daar een kost op lange termijn tegenover.
Concreet vermoeden ze dat gebruikers niet alleen geconfronteerd worden met een verminderd kritisch denkvermogen, maar ze ook kwetsbaarder worden voor manipulatie en creativiteit verliezen. In het onderzoek wordt benadrukt dat die vermoedens verder onderzocht dienen te worden.
De bevindingen tonen dat LLM’s zoals ChatGPT een groot risico met zich meebrengen. Volgens het onderzoek wordt wie een LLM gebruikt minder kritisch, wat er op zijn beurt voor zorgt dat de gebruiker nieuwe antwoorden van het LLM onvoldoende op waarheid kan analyseren. Slechts enkele deelnemers tijdens het experiment stapten af van de redenering van een LLM om hun eigen idee te volgen.
Geen voldoening
Tot slot stelden de onderzoekers vast dat werken met een LLM geen voldoening geeft. De Brain Only-groep hechtte belang aan de zelf geschreven opstellen en ideeën, en stond erachter. De LLM-groep voelde zich minder verantwoordelijk voor de inhoud, kende die inhoud zoals aangehaald niet goed, en dichtte minder waarde toe aan de teksten.
Het onderzoek suggereert dat het toenemend gebruik van AI veelgebruikers in feite minder capabel maakt om AI op een kritische manier te gebruiken en voor zichzelf te denken. Terwijl ChatGPT en gelijkaardige tools zowel in de bedrijfswereld als het onderwijs aan belang groeien, is die bedenking van groot belang.