Wat is een AI-hallucinatie?

Waarom het gebeurt

Een taalmodel voorspelt waarschijnlijke tekst. Als je vraagt naar een wetsartikel dat het niet kent, is "artikel 14, lid 3" een statistisch plausibele voortzetting — het ziet eruit als een wetsartikel, het klinkt als een wetsartikel. Dat het niet bestaat, is voor het model geen relevante categorie.

Dit verklaart ook het contra-intuïtieve patroon: hoe specifieker en formeler het antwoord klinkt, hoe voorzichtiger je moet zijn. Vage antwoorden zijn zelden verzonnen; precieze antwoorden soms wel.

Wat het risico verkleint

Geef bronnen mee in plaats van te vragen. Een model dat het contract, de handleiding of de prijslijst voor zich heeft, hoeft niets te verzinnen. Dit is verreweg de effectiefste maatregel.

Vraag om vindplaatsen. "Citeer letterlijk de zin waarop je dit baseert" maakt direct zichtbaar of er iets onder het antwoord ligt.

Maak verificatie een regel, geen goede gewoonte. Leg in je AI-beleid vast welke categorieën altijd worden gecontroleerd voordat ze naar buiten gaan: cijfers, wetsartikelen, namen, citaten, toezeggingen.

Beperk waar de output landt. Een hallucinatie in een interne conceptnotitie is een ongemak. Dezelfde hallucinatie in een klantofferte of een juridisch stuk is iets anders.

Waar het in bedrijven het vaakst misgaat

Drie terugkerende situaties: een medewerker neemt een cijfer over in een klantpresentatie zonder de bron te checken; iemand laat AI juridische of fiscale tekst schrijven en gaat ervan uit dat de verwijzingen kloppen; een agent die zelfstandig meerdere stappen zet, bouwt voort op een fout uit een eerdere stap.

Dat laatste is het onderschatte geval: bij ketens van stappen vermenigvuldigt een fout zich in plaats van dat hij opvalt.