« Oui, mais ça raconte n'importe quoi, non ? » C'est la phrase que j'entends le plus souvent. Elle est même très juste, l'IA se trompe parfois, et pire, elle le fait avec assurance. Mais s'arrêter là serait une erreur, parce que le risque est prévisible, et qu'un risque prévisible se gère.
Cet article explique pourquoi une IA invente, dans quels cas exactement, et quel protocole permet de s'en servir sans jamais se faire piéger. C'est une question de méthode.
Brancher Claude sur Légifrance. Le connecteur officiel, écran par écran, pour que l'IA cesse d'inventer des articles de loi.
Récupérer le guide →Le mécanismePourquoi elle invente, et pourquoi ce n'est son fonctionnement normal
Le terme technique est « hallucination », le modèle produit une réponse fausse mais plausible, présentée avec le même aplomb qu'une réponse juste. Une référence qui n'existe pas, un chiffre inventé, une citation approximative.
C'est le fonctionnement normal de l'outil. Un modèle de langage cherche la suite la plus probable d'un texte, pas la suite la plus vraie. Quand le probable et le vrai coïncident, ce qui est le cas la plupart du temps, le résultat est excellent. Quand ils divergent, le modèle produit du probable, c'est-à-dire quelque chose qui a exactement l'apparence d'une bonne réponse.
Le danger n'est pas que l'IA se trompe. C'est qu'elle se trompe avec la même assurance que lorsqu'elle a raison.
Cette mécanique explique pourquoi les erreurs les plus dangereuses portent sur les éléments les plus vérifiables, une référence de jurisprudence, un numéro d'article, une date, un chiffre, un nom d'auteur. Ce sont des formes très régulières, donc très faciles à imiter, et très difficiles à repérer à l'œil.
Le triOù elle est fiable, où elle ne l'est pas
La bonne nouvelle, c'est que le risque suit une règle simple, l'IA est fiable là où il n'existe pas une vérité factuelle unique à retrouver, et risquée là où il en existe une. Ce seul critère suffit à trier tous tes usages.
| Type de tâche | Vérité unique ? | Fiabilité | Ce que tu fais |
|---|---|---|---|
| Reformuler, résumer, structurer | Non | Très élevée | Relire normalement. |
| Traduire | Non | Élevée | Vérifier les termes métier. |
| Rédiger un premier jet | Non | Élevée | Relire, remettre tes mots. |
| Expliquer un concept général | Non | Élevée | Recouper si l'enjeu est fort. |
| Analyser un document que tu fournis | Oui, mais elle l'a sous les yeux | Bonne | Recouper les chiffres cités avec la source. |
| Faire un calcul | Oui | Faible | Refaire le calcul. Ce n'est pas une calculatrice. |
| Citer une source, une loi, une étude | Oui | Très faible | Vérifier chaque référence à la source. |
| Donner un chiffre de marché récent | Oui | Très faible | Ne jamais reprendre sans source. |
Le cas le plus documenté en France est celui des références juridiques inventées, traité dans quand l'IA invente des articles de loi. Mais la même mécanique s'applique à une statistique de marché, à une citation d'auteur ou à un numéro de norme.
La méthodeLe protocole des deux colonnes
Plutôt que de te demander « est-ce que je fais confiance », pose-toi une question opérationnelle sur chaque sortie, qu'est-ce qui, là-dedans, est vérifiable ?
Colonne gauche, le vérifiable. Chiffres, dates, références, noms propres, citations, calculs, adresses. Tout ce qui pourrait figurer dans une base de données. Cette colonne se contrôle à la source, systématiquement. Le piège est de se dire « celle-là a l'air juste », c'est précisément quand elle a l'air juste qu'elle est dangereuse.
Colonne droite, le raisonnement. Structure, formulation, ordre des arguments, clarté, ton. Cette colonne se relit comme on relit le travail d'un collaborateur, avec attention plutôt qu'avec méfiance.
Ce protocole a un effet secondaire utile, il te fait gagner du temps. Beaucoup de gens relisent tout avec la même intensité, ce qui est épuisant et inefficace. Concentrer l'effort sur la colonne gauche divise le temps de vérification.
La préventionTrois façons de réduire le risque à la source
Vérifier après coup est nécessaire. Mais on peut aussi diminuer la probabilité d'erreur en amont, avec trois leviers.
- Donner la matière plutôt que de la faire chercher. Un modèle qui analyse un document que tu lui as fourni se trompe beaucoup moins qu'un modèle qui puise dans sa mémoire. Colle le texte, ne demande pas « que dit la loi sur… ».
- Brancher une source réelle. Connecter l'assistant à une base officielle ou à tes propres documents supprime une grande partie du problème, parce qu'il cite ce qu'il lit au lieu de reconstituer. C'est l'objet de brancher l'IA sur tes outils et de ta base de connaissances.
- Demander explicitement l'incertitude. « Si tu n'es pas sûr d'une référence, dis-le au lieu de la produire » change réellement le comportement. C'est une des consignes les plus rentables à mettre dans ton prompt système.
Combien d'heures l'IA peut te libérer ?
Deux minutes, tâche par tâche, pour voir en clair le temps que tu peux récupérer chaque semaine, sans mauvaise surprise. Gratuit.
Faire le diagnosticLa postureNi naïf, ni paralysé
Deux postures font perdre du temps. La première est la confiance aveugle, on reprend tel quel, et un jour un chiffre faux se retrouve dans une proposition commerciale. La seconde est le refus global, on n'utilise rien, et on se prive de gains réels sur les quatre-vingts pour cent de tâches où le risque est nul.
La posture juste est celle qu'on a avec un collaborateur junior brillant et parfois trop sûr de lui. On lui confie beaucoup, on relit ce qui engage, et on ne lui demande pas de trancher ce qui relève de notre responsabilité.
C'est cohérent avec ce que mesure l'INSEE chez les entreprises françaises, chez celles qui utilisent déjà l'IA, les inquiétudes sur les données sont citées par 43 % et le manque de clarté juridique par 42 %, juste derrière le manque d'expertise à 53 %. Ces craintes ne bloquent pas l'entrée dans le sujet, elles freinent son passage à l'échelle. Un protocole écrit lève l'essentiel du frein.
FAQQuestions fréquentes
Qu'est-ce qu'une hallucination d'IA ?
C'est une réponse fausse mais plausible, produite avec le même aplomb qu'une réponse juste, une référence qui n'existe pas, un chiffre inventé, une citation approximative. C'est le fonctionnement normal d'un modèle de langage, qui cherche la suite la plus probable d'un texte plutôt que la plus vraie.
Sur quoi peut-on faire confiance à l'IA sans vérifier ?
Sur tout ce qui n'a pas de vérité factuelle unique à retrouver, reformuler, résumer, structurer, traduire, rédiger un premier jet, expliquer un concept. Ces sorties se relisent normalement. Le risque apparaît dès qu'il existe une seule bonne réponse quelque part, une référence, un calcul, une date, un chiffre de marché.
Comment repérer une référence inventée ?
On ne la repère pas à l'œil, et c'est tout le problème, elle a exactement la forme d'une vraie référence, avec un numéro, une date et une source crédibles. La seule méthode fiable est de vérifier à la source, systématiquement, sans faire d'exception pour celles qui « ont l'air justes ».
Une IA peut-elle faire des calculs justes ?
Un modèle de langage calcule mal, il produit la suite de caractères la plus probable, ce qui donne souvent le bon résultat sur des opérations simples et des erreurs silencieuses sur des calculs plus longs. Tout calcul qui compte doit être refait, ou confié à un outil de calcul plutôt qu'à un modèle de langage.
Comment réduire le risque d'erreur en amont ?
Trois leviers. Donner la matière plutôt que de la faire chercher, un modèle qui analyse un document fourni se trompe beaucoup moins qu'un modèle qui puise dans sa mémoire. Brancher une source réelle, officielle ou interne, pour qu'il cite ce qu'il lit. Et demander explicitement de signaler l'incertitude plutôt que de produire une référence douteuse.
Les modèles récents hallucinent-ils moins ?
Les modèles progressent, mais le mécanisme reste le même, produire du plausible. La réduction du risque vient beaucoup plus de la façon dont on travaille, en fournissant la matière et en branchant des sources, que du choix du modèle. Un protocole de vérification reste nécessaire quel que soit l'outil.
Faut-il interdire l'IA sur les sujets sensibles ?
Interdire globalement fait perdre les gains réels sur les tâches sans risque, et produit surtout un usage clandestin sans règle. Mieux vaut définir précisément ce qui doit être vérifié et par qui, selon le niveau d'enjeu. Un post et une proposition commerciale n'appellent pas le même circuit de relecture.
- INSEE, Les technologies de l'information et de la communication dans les entreprises en 2025, Insee Première n° 2120, juillet 2026. Obstacles déclarés par les entreprises utilisatrices.
- CNIL, Les fiches pratiques IA.
On pose ton protocole de vérification ?
20 minutes, gratuit. On regarde tes usages réels et on définit ce qui se vérifie, par qui, et à quel moment.
