Hallucination

Une hallucination est une sortie produite par un modèle d’IA (en particulier un grand modèle de langage) qui est fausse, inventée ou sans ancrage, tout en étant présentée avec fluidité et assurance comme si elle était vraie. (« Sans ancrage » signifie ici que la sortie n’est étayée ni par les données d’entraînement du modèle ni par les sources qui lui ont été fournies.) Les hallucinations vont des citations inventées et des statistiques fictives jusqu’aux détails à l’apparence plausible qu’aucune source ne vient réellement appuyer. Elles peuvent également survenir lorsqu’un modèle interprète mal, attribue de manière erronée ou généralise excessivement à partir de sources obsolètes ou partielles.

En résumé : une hallucination est une sortie fluide et assurée qui n’est pas fiablement vraie, c’est-à-dire une réponse dans laquelle le modèle a comblé une lacune avec quelque chose de plausible plutôt qu’avec quelque chose d’exact.

Comment surviennent les hallucinations

Un modèle de langage prédit le texte probable, et non des faits vérifiés, et plusieurs facteurs le poussent vers l’invention assurée :

1. Prédiction, et non récupération : le modèle génère les mots statistiquement les plus probables, de sorte que la fluidité est optimisée tandis que l’exactitude factuelle n’est pas garantie.
2. Lacunes dans les connaissances : lorsque les données d’entraînement sont manquantes, obsolètes ou insuffisantes sur un sujet, le modèle comble la lacune par une supposition plausible.
3. Absence de vérité de référence intégrée : sans source à laquelle se référer au moment où une réponse est générée, le modèle ne peut pas distinguer une affirmation étayée d’une affirmation inventée.
4. Requêtes orientées ou ambiguës : des questions vagues ou des prémisses fausses peuvent amener le modèle à répondre plutôt qu’à contester.
5. Biais en faveur de la réponse : les modèles ont tendance à produire une réponse assurée plutôt qu’à admettre une incertitude, si bien que les lacunes de connaissances peuvent se manifester sous la forme d’inventions.

Le point essentiel est que le modèle ne ment pas : il ne fait aucune distinction interne entre une affirmation bien étayée et une invention à l’apparence plausible.

Hallucination, erreurs factuelles et désinformation

• Une erreur factuelle peut avoir n’importe quelle cause, y compris un raisonnement correct appliqué à de mauvaises données ; une hallucination désigne spécifiquement le fait que le modèle a produit quelque chose sans ancrage ou non étayé, souvent en l’inventant purement et simplement, mais aussi en interprétant mal ou en attribuant de manière erronée des sources.
• La désinformation correspond à des informations fausses ou inexactes, indépendamment de l’intention ; alors que la mésinformation ou la désinformation supposent une intention de tromper, une hallucination est involontaire, puisque le modèle n’a pas conscience que sa sortie est fausse.
• Les hallucinations intrinsèques contredisent une source fournie au modèle ; les hallucinations extrinsèques ne peuvent pas être vérifiées à partir de cette source, même lorsqu’elles se révèlent exactes.

Comment réduire les hallucinations

• Génération augmentée par récupération (RAG) : ancrer les réponses dans un texte récupéré et citable donne au modèle de véritables sources sur lesquelles s’appuyer plutôt que de deviner (mais le RAG peut tout de même produire des erreurs si la récupération manque des sources pertinentes ou si le modèle utilise mal ce qu’il trouve).
• Citations et vérification : demander au modèle de citer ses sources, puis les vérifier, fait apparaître les affirmations que rien ne vient étayer.
• Autorisation de s’abstenir : laisser le modèle dire « je ne sais pas » réduit les suppositions forcées, une technique recommandée par Anthropic pour obtenir une sortie plus fiable.
• Contrôle humain dans les domaines à enjeux élevés : en médecine, en droit et en finance, où une invention assurée coûte le plus cher, la vérification humaine reste essentielle.
• Apprentissage par renforcement à partir de retours humains (RLHF) : un entraînement complémentaire fondé sur des exemples soigneusement sélectionnés peut aider à apprendre au modèle à suivre les instructions, à refuser les demandes nuisibles et à produire des réponses plus fiables.
• Ajustement fin : poursuivre l’entraînement d’un modèle préentraîné sur des exemples soigneusement sélectionnés peut améliorer la fiabilité au sein d’un domaine et l’inciter à s’abstenir en cas de doute. L’ajustement fin est complémentaire de l’ancrage et non un substitut ; il peut parfois se retourner contre son objectif s’il est utilisé pour enseigner des faits inconnus du modèle.

Les hallucinations peuvent être réduites, mais pas totalement éliminées ; l’objectif concret est d’ancrer les sorties dans des sources vérifiables et de concevoir des systèmes qui font apparaître l’incertitude plutôt que de la dissimuler.

Termes associés

Génération augmentée par récupération (RAG), ancrage web, attribution des sources, citation, grand modèle de langage (LLM), ingénierie des requêtes, moteur de réponses par IA, exactitude factuelle, confabulation.