Waarom een AI soms met volle overtuiging iets verzint

Je stelt een AI-chatbot een vraag. Het antwoord komt vlot, zelfverzekerd, met bronnen erbij. Alleen: die bronnen bestaan niet. De naam van de rechtszaak klinkt echt, het jaartal klopt, maar niets ervan heeft ooit bestaan. Je hebt zojuist een AI-hallucinatie meegemaakt.

Wat is een hallucinatie bij AI?

Bij mensen betekent hallucineren iets zien of horen dat er niet is. Bij AI, en specifiek bij taalmodellen zoals ChatGPT, betekent het iets vergelijkbaars: het systeem produceert informatie die overtuigend klinkt, maar feitelijk onjuist of compleet verzonnen is. Geen leugen — daarvoor zou het model moeten weten dat iets niet klopt — maar een gevolg van hoe deze systemen werken.

Een taalmodel voorspelt namelijk telkens het meest waarschijnlijke volgende woord, gebaseerd op patronen uit enorme hoeveelheden tekst waarop het getraind is. Het model 'weet' niet wat waar is. Het weet alleen wat statistisch gezien goed klinkt in die context. Als er geen goed antwoord in de trainingsdata zit, vult het model de leemte op met iets dat er plausibel uitziet. Vandaar de term: het lijkt op iets, maar het is er niet echt.

De term zelf komt uit de machine learning-wereld van eind jaren 2010, maar werd pas echt bekend na de doorbraak van grote taalmodellen in 2022 en 2023.

Het bekendste voorbeeld

In 2023 werd Amerikaans advocaat Steven Schwartz wereldnieuws. Hij gebruikte ChatGPT om jurisprudentie te zoeken voor een rechtszaak en diende een dossier in bij de rechtbank vol verwijzingen naar eerdere uitspraken. Probleem: geen van die uitspraken bestond. ChatGPT had ze compleet verzonnen, inclusief overtuigende details en zaaknummers. De rechter was not amused, en de zaak werd wereldwijd hét voorbeeld van waarom je AI-output altijd moet checken.

Onderzoekers van onder meer Stanford en OpenAI zelf hebben laten zien dat hallucinaties vaker voorkomen bij specifieke, feitelijke vragen dan bij creatieve taken — precies waar je het niet wilt hebben.

Waarom dit lastig te herkennen is

Wat hallucinaties zo verraderlijk maakt, is de toon. Een AI twijfelt zelden hardop. Het antwoord klinkt even zeker of het nu klopt of niet. Stel je een leerling voor die een spreekbeurt voorbereidt met hulp van een chatbot, en een 'feit' overneemt dat nergens op gebaseerd is. Niemand twijfelt, want het klinkt zo overtuigend.

Wat je ermee kunt

Het goede nieuws: als je de term kent, verandert je omgang met AI. Je leest antwoorden met een gezonde nieuwsgierigheid in plaats van blind vertrouwen. Bij Klassengesprek gebruiken we dit besef dagelijks: nieuws en beweringen worden samen bekeken, bronnen worden nagetrokken, en kinderen leren al vroeg dat 'het klinkt logisch' niet hetzelfde is als 'het is waar'. Dat kritische pauzemoment — even nadenken voor je iets aanneemt — is precies waar rust en focus, zoals bij StilWerken, ook bij helpen. Hallucinaties herkennen begint namelijk niet bij de technologie, maar bij de gewoonte om zelf even stil te staan.