Hallucinations de l’IA : pourquoi elles surviennent et comment les repérer

Vous demandez à une IA un livre sur un sujet précis. Elle vous donne un titre, un auteur et une année de parution, et tout a l’air correct. Pourtant, ce livre n’existe pas. Ce phénomène porte un nom, les hallucinations de l’IA. Il découle du fonctionnement même de ces outils et n’a rien d’exceptionnel. En comprenant d’où il vient, on apprend à le reconnaître et à le limiter dès la question.

Qu’est-ce qu’une hallucination de l’IA ?

On parle d’hallucination quand une IA produit une information fausse en la présentant comme vraie. Il peut s’agir d’un fait inventé, d’une source qui n’existe pas, d’un chiffre sorti de nulle part ou d’une citation que personne n’a prononcée. Le mot est imagé, et il décrit bien la chose. L’outil peut produire une information inventée en la présentant avec assurance.

L’IA n’a pas l’intention de vous tromper. Elle ne sait simplement pas distinguer, de l’intérieur, ce qu’elle sait de ce qu’elle reconstitue.

Pourquoi l’IA invente

Une IA conversationnelle prédit, mot après mot, la suite la plus plausible d’un texte. Elle a appris sur d’énormes volumes d’écrits, ce qui la rend très douée pour produire des réponses qui ont l’air justes. Une réponse plausible peut être exacte ou erronée : son style ne suffit pas à juger sa fiabilité.

Les hallucinations apparaissent surtout dans quatre situations.

• Il lui manque l’information, parce que le sujet est très pointu, l’événement récent ou la personne peu connue.
• On lui demande une précision, comme un chiffre exact, une date ou une référence complète.
• La question oriente la réponse. Si vous demandez « Quel est le meilleur livre de X sur Y ? », elle peut inventer un livre plutôt que de dire qu’il n’y en a pas.
• La conversation est longue, et elle mélange des éléments donnés plus tôt.

Les hallucinations les plus fréquentes

Certaines erreurs reviennent assez souvent pour qu’on les connaisse.

• Des sources inventées, comme des livres, des études ou des liens qui n’existent pas.
• Des chiffres trop précis, statistiques ou montants, sans origine claire.
• Des citations attribuées à des personnes qui ne les ont jamais dites.
• Des dates, des horaires et des prix périmés ou approximatifs.
• Des détails biographiques faux sur des personnes réelles.
• Des fonctions imaginaires dans une appli, avec un bouton qui n’existe pas.

Les signes qui doivent vous alerter

Une hallucination ne se signale pas d’elle-même, mais quelques indices doivent vous mettre la puce à l’oreille.

• Un chiffre très précis, au dixième près, sans source.
• Une référence que vous ne retrouvez nulle part en la cherchant vous-même.
• Une réponse différente quand vous reposez la même question autrement.
• Une réponse qui tombe parfaitement bien sur un sujet où les informations sont rares.
• Une IA qui reconnaît son doute dès que vous lui demandez « es-tu sûr ? ».

Quand l’un de ces signes apparaît, appliquez notre méthode en 5 étapes pour vérifier une réponse.

Limiter les hallucinations dès la question

Vous pouvez aussi réduire le risque en amont.

• Donnez-lui le texte. Lui faire résumer un document que vous fournissez est bien plus fiable que de l’interroger de mémoire.
• Invitez l’outil à signaler ses incertitudes, par exemple avec « Si tu ne sais pas, dis-le ». Cette consigne ne remplace pas la vérification des informations importantes.
• Demandez des sources vérifiables, puis ouvrez-les.
• Pour les sujets récents, utilisez la recherche web quand votre assistant la propose.
• Évitez les questions qui supposent la réponse. Demandez « Existe-t-il un livre de X sur Y ? » plutôt que « Quel est le livre de X sur Y ? ».

Notre guide pour écrire un bon prompt donne d’autres astuces pour obtenir des réponses plus fiables.

Votre profil change votre façon de les repérer

Nous ne repérons pas tous les hallucinations de la même façon. L’Enquêteur peut s’appuyer sur son goût pour la recherche de sources et le recoupement des informations. L’Expérimentateur les repère en comparant plusieurs outils. Les profils plus confiants ont intérêt à prendre quelques réflexes simples pour ce qui compte.

Notre test de profil IA mesure votre rapport à l’information, entre vérificateur et confiant. En 3 minutes environ, sans compte, vous découvrez votre profil et un premier conseil pour utiliser l’IA sans vous faire avoir.