Accueil › Glossaire › Hallucination

Hallucination IA : quand les modeles de langage inventent des reponses

Qu’est-ce qu’une hallucination IA ?

Les LLM ne « savent » rien. Ils predisent le prochain token le plus probable dans une sequence. Quand ChatGPT ou Claude vous repond, il ne consulte pas une base de donnees de faits verifies. Il genere du texte statistiquement coherent avec les patterns appris pendant l’entrainement.

Cette mecanique produit des resultats impressionnants la plupart du temps. Mais elle a une faille fondamentale : le modele est aussi confiant quand il genere un fait exact que quand il genere un fait invente. Il n’a aucun mecanisme interne pour distinguer le vrai du faux.

Les hallucinations se manifestent sous plusieurs formes : citations de sources qui n’existent pas, statistiques inventees, noms de personnes ou d’entreprises fictifs, evenements historiques defomes, ou raisonnements logiques qui semblent corrects mais aboutissent a des conclusions fausses.

Les types d’hallucinations

Hallucination factuelle

Le modele genere des faits incorrects avec assurance. Par exemple, il peut attribuer un prix Nobel a une personne qui ne l’a jamais recu, ou citer une loi qui n’existe pas. C’est le type le plus courant et le plus dangereux car il est difficile a detecter sans expertise dans le domaine.

Fabrication de sources

Le modele invente des references academiques, des articles de presse, des URL ou des citations. Il peut generer un titre d’article scientifique parfaitement plausible avec auteurs, journal et annee de publication, mais dont aucun element n’existe reellement. Ce probleme a ete particulierement mediatise dans le domaine juridique, ou des avocats ont cite des jurisprudences hallucinees par ChatGPT.

Extrapolation incorrecte

Le modele extrapole au-dela de ce que ses donnees d’entrainement supportent. Il peut combiner des informations correctes pour arriver a une conclusion fausse, ou projeter une tendance passee de maniere incorrecte.

Incoherence contextuelle

Dans une conversation longue, le modele peut se contredire ou generer des informations incompatibles avec ce qu’il a dit precedemment. Ce type d’hallucination est lie aux limites de la fenetre de contexte et a la nature auto-regressive de la generation.

Pourquoi les LLM hallucinent

La nature probabiliste de la generation. Un LLM predit le prochain token le plus probable. Il n’a pas de modele du monde, pas de memoire structuree des faits. Il interpole entre les patterns vus pendant l’entrainement. Quand la question porte sur un sujet peu represente dans les donnees d’entrainement, le modele « remplit les blancs » avec des completions plausibles mais potentiellement fausses.

L’entrainement sur des donnees bruitees. Internet contient des erreurs, des contradictions et des informations obsoletes. Le modele a absorbe ces inconsistances pendant le pre-entrainement et peut les reproduire.

L’optimisation RLHF. Le RLHF (Reinforcement Learning from Human Feedback) entraine les modeles a generer des reponses que les humains jugent utiles et satisfaisantes. Cela peut creer un biais vers des reponses detaillees et confiantes, meme quand le modele devrait repondre « je ne sais pas ».

La pression a repondre. Les modeles sont optimises pour toujours fournir une reponse. Dire « je ne sais pas » est rarement la completion la plus probable dans les donnees d’entrainement. Le modele a donc tendance a generer une reponse meme quand il n’a pas suffisamment d’informations.

La temperature elevee. Une temperature elevee augmente la diversite des reponses en explorant des completions moins probables. Cela stimule la creativite mais augmente aussi le risque d’hallucination sur les taches factuelles.

Comment detecter les hallucinations

Detection manuelle

La methode la plus fiable reste la verification humaine par un expert du domaine. Toute information critique generee par un LLM devrait etre verifiee avant utilisation, en particulier les chiffres, les noms propres, les dates et les references.

Detection automatisee

Plusieurs approches automatisent la detection d’hallucinations :

Cross-verification. Generer la meme reponse plusieurs fois avec des temperatures differentes. Si les reponses divergent sur un fait, c’est un signal d’hallucination potentielle.

Grounding check. Verifier que chaque affirmation de la reponse est etayee par les sources fournies dans le contexte (dans un pipeline RAG). Les frameworks comme RAGAS et TruLens automatisent cette verification.

Modele de verification. Utiliser un second LLM pour evaluer la veracite des affirmations du premier. Cette approche « LLM-as-judge » est imparfaite mais utile comme filtre supplementaire.

Scores de confiance. Analyser les probabilites des tokens generes. Un token genere avec une faible probabilite dans un contexte factuel est un indicateur de risque d’hallucination.

Techniques pour reduire les hallucinations

Le RAG (Retrieval-Augmented Generation). C’est la technique la plus efficace. En fournissant au modele des sources verifiees dans le contexte, vous reduisez son besoin d’improviser. Ajoutez l’instruction « Reponds uniquement a partir des sources fournies. Si l’information n’est pas dans les sources, dis-le. » Le taux d’hallucination passe typiquement de 15-25 % a 3-8 % avec un RAG bien configure.

La temperature basse. Pour les taches factuelles, utilisez une temperature de 0 a 0,3. Cela force le modele a choisir les tokens les plus probables, reduisant les completions « creatives » mais potentiellement fausses.

Le prompt engineering. Des instructions explicites dans le prompt peuvent reduire les hallucinations. « Si tu n’es pas sur, dis-le explicitement », « Ne genere pas d’informations que tu ne peux pas verifier », « Cite tes sources » sont des consignes efficaces.

Le chain-of-thought. Forcer le modele a detailler son raisonnement etape par etape avec le Chain-of-Thought expose les failles logiques qui pourraient mener a des hallucinations. C’est plus facile de detecter une erreur dans un raisonnement explicite que dans une conclusion brute.

Les modeles de raisonnement. Les modeles comme o1 et o3 d’OpenAI utilisent un processus de raisonnement interne qui reduit naturellement les hallucinations sur les taches logiques et factuelles.

Benchmarks d’hallucination par modele

Impact des hallucinations par secteur

Droit. Les hallucinations juridiques sont particulierement dangereuses. Des cas mediatises d’avocats citant des jurisprudences hallucinees ont conduit a des sanctions professionnelles. Tout contenu juridique genere par IA doit etre verifie par un professionnel qualifie.

Sante. Un LLM qui invente des effets secondaires de medicaments, des dosages ou des diagnostics represente un risque vital. Les applications medicales IA necessitent des garde-fous stricts et une validation par des professionnels de sante.

Finance. Des chiffres financiers hallucines (revenus d’entreprise, performances d’investissement) peuvent conduire a des decisions couteuses. Les rapports financiers generes par IA doivent etre systematiquement recoupes avec les sources officielles.

Education. Les etudiants qui utilisent les LLM comme source de connaissances sans verification risquent d’integrer des informations fausses. L’esprit critique et la verification des sources sont plus importants que jamais.

L’avenir des hallucinations

Les hallucinations ne disparaitront probablement jamais completement des LLM car elles sont inherentes a la nature probabiliste de ces modeles. Mais les progres sont constants. Les modeles de 2026 hallucinent 3 a 5 fois moins que ceux de 2023. Les approches qui combinent LLM + verification (RAG, grounding, modeles de raisonnement) reduisent encore le risque.

La tendance est a la transparence : les modeles apprennent progressivement a exprimer leur incertitude (« je ne suis pas sur de cette information ») plutot qu’a toujours affirmer avec confiance. C’est un progres majeur en termes de fiabilite.

FAQ