Une hallucination est une réponse fausse ou inventée présentée par un modèle de langage avec la même assurance qu'une réponse juste : faits, références ou citations inexistants. Elle découle du fonctionnement par prédiction de texte plausible, sans vérification, et impose un contrôle humain.
Exemple
Le modèle fournit un article scientifique avec auteurs et DOI qui n'existent pas.