Stack Overlow legt AI-gegenereerde antwoorden aan banden

Stack Overlow verbiedt voorlopig antwoorden gegenereerd door AI-chatbot ChatGPT. De antwoorden waren te vaak fout.

Stack Overlow verbiedt antwoorden gegenereerd door ChatGPT. Die AI-chatbot maakt het voor gebruikers mogelijk om eenvoudig antwoorden te posten die wel juist lijken maar bij nadere inspectie toch niet kloppen. De website is zo’n beetje de norm voor programmeurs die vragen willen stellen aan collega’s uit de community, dus de kwaliteit van de antwoorden moet bewaakt worden.

Dat gezegd zijnde geeft Stack Overflow aan dat de ban tijdelijk is. De site gaat in gesprek met de community opzoek naar een langetermijn-antwoord.

Nieuwe chatbot

ChatGPT is een chatbot gebouwd door OpenAI op basis van het GPT-3.5-model. Dat is vooral een tekstgenerator. De ChatGPT-bot is sinds vorige week beschikbaar voor het grote publiek als demo. Het opzet van het model is om plausibele antwoorden te genereren. In die hoedanigheid creëert ChatGPT bijvoorbeeld interessante antwoorden, gedichten en liedjes, zolang de inhoud vrijblijvend is. Vraag je naar de levensloop van een bekend figuur, dan zal ChatGPT een verhaal verzinnen dat boeiend klinkt maar niet gestoeld is op waarheid.

lees ook

Populariteit van Github zet juridische en ethische kant van AI op scherp

De chatbot gaat op dezelfde manier om met code. De bot is clever genoeg om een technische conversatie te voeren en lijnen code te generen, maar opnieuw is het doel geloofwaardigheid boven correctheid. Dat betekent dat resultaten vaak foutief zijn, maar dat dat niet altijd op het eerste zicht opvalt.

Teveel moderatie

Experts moeten de code redelijk grondig lezen om de fouten op te sporen, terwijl het heel eenvoudig is om ChatGPT-antwoorden op te vragen ten te posten. Zo is er geen evenwicht meer tussen de tsunami aan fouten en de draagkracht van de moderators. Het verbod is daar een gevolg van. Gebruikers die voortaan nog antwoorden bekomen via de AI delen, zullen daarvoor gesanctioneerd worden. Los van de kwaliteit van de code spelen er bovendien heel wat juridische en ethische vragen rond AI-gegenereerde code.

nieuwsbrief

Abonneer je gratis op ITdaily !
  • This field is for validation purposes and should be left unchanged.
terug naar home