ChatGPT Search kan foutieve informatie geven wegens de zogenoemde ‘prompt-injecties’, volgens een onderzoek van The Guardian.
De nieuwe zoekmachine van ChatGPT, ChatGPT Search, blijkt gevoelig te zijn voor manipulatie, volgens een onderzoek van de The Guardian. Dit komt door de zogenoemde prompt-injecties, waarbij verborgen instructies op webpagina’s de antwoorden beïnvloeden. ChatGPT Search werd enkele dagen geleden nog beschikbaar gesteld voor alle gebruikers.
Prompt-injecties
Het onderzoek van The Guardian wijst uit dat de zoekmachine gevoelig blijkt voor manipulatie. Meer specifiek zouden de antwoorden beïnvloed kunnen worden door ‘prompt-injecties’. Deze techniek gebruikt verborgen instructies op webpagina’s om de antwoorden van ChatGPT te manipuleren. Dit kan de manier waarop ChatGPT webpagina’s samenvat beïnvloeden, en ervoor zorgen dat er onjuiste informatie aangeboden wordt.
lees ook
OpenAI maakt SearchGPT beschikbaar voor iedereen
Maar er is meer. Volgens The Guardian kunnen ook kwaadwilligen deze kwetsbaarheid gebruiken om schadelijke code te verspreiden. Het risico bij large language models (LLM’s) werd al meerdere malen benadrukt door securityexperts. De antwoorden moeten met de nodige voorzichtigheid bekeken worden.