Tu poses une question précise. L'IA te répond avec une référence complète, un numéro d'article, une date d'entrée en vigueur, tout est bien formé. Tu la cites dans un mail à ton client. Et la référence n'existe pas. Ce n'est pas un bug, c'est le fonctionnement normal de l'outil, et le seul moyen d'en sortir est de changer sa source d'information. J'ai détaillé le branchement complet dans Claude, la loi et la doctrine fiscale.
Dans cet article, je t'explique pourquoi une IA invente une source plutôt que d'avouer son ignorance, les trois niveaux de fiabilité d'une réponse, et le protocole de vérification qui tient en trois gestes. Ce n'est pas une question de formulation du prompt, c'est une question de branchement.
01Pourquoi elle invente plutôt que d'avouer
Il faut comprendre le mécanisme, sinon on cherche la solution au mauvais endroit. Un modèle de langage produit, mot après mot, la suite la plus vraisemblable de ce qui précède. Il n'a pas de registre interne des choses qu'il sait et des choses qu'il ignore.
Quand tu lui demandes une référence qu'il ne possède pas, il ne trouve pas une case vide. Il produit la suite la plus vraisemblable, et une référence bien formée est, par construction, ce qu'il y a de plus vraisemblable après le mot « article ». Le résultat sort avec la même assurance que la vérité, parce que le mécanisme est rigoureusement le même.
Une source inventée ne ressemble jamais à une erreur. Elle ressemble exactement à une source exacte, et c'est précisément ce qui la rend dangereuse.
D'où une conséquence que beaucoup refusent d'admettre. Écrire « ne cite que des sources réelles » dans ton prompt n'a presque aucun effet. Tu demandes à un système de distinguer deux choses qu'il ne distingue pas. Le sujet est traité sous un autre angle dans faire confiance à l'IA malgré les hallucinations et le cas des articles de loi inventés.
02Les trois niveaux de fiabilité d'une réponse
Toute réponse que tu obtiens se range dans l'une de ces trois catégories. Savoir dans laquelle tu es change tout ce que tu peux en faire.
| Niveau | D'où vient la réponse | Ce que tu peux en faire |
|---|---|---|
| 1 · De mémoire | De ce que le modèle a appris, sans accès à quoi que ce soit. | Réfléchir, explorer, brouillonner. Jamais citer. |
| 2 · Sur document fourni | D'un fichier que tu as déposé toi-même dans la conversation. | Travailler sur ton propre matériau. La référence vaut ce que vaut ton document. |
| 3 · Sur base officielle | D'un connecteur qui interroge la base en direct et rapporte la référence. | Citer, opposer, transmettre à un client. Le lien est vérifiable en un clic. |
Le passage du niveau 1 au niveau 3 ne se joue pas dans la formulation. Il se joue dans le branchement. Tant que tu restes au niveau 1, aucune consigne, aucune menace, aucun « je te rappelle que c'est important » ne changera la nature de ce que tu reçois.
Le niveau 2 est très sous-estimé. Déposer le document toi-même et demander de ne travailler que sur lui résout une grande partie des cas, gratuitement et sans configuration. La limite est évidente, tu dois déjà détenir le bon document.
03Brancher l'IA sur la source officielle
Le niveau 3 consiste à donner à l'IA un accès direct à la base qui fait foi, plutôt que de lui demander de se souvenir. En France, plusieurs de ces bases sont publiques et gratuites.
- LÉGIFRANCE
- Les codes, la jurisprudence, le Journal officiel.
- BOFIP
- La doctrine fiscale opposable à l'administration.
- BODACC
- Les annonces légales des entreprises.
- SERVICE-PUBLIC
- Les fiches de démarches et de droits.
La différence à l'usage est spectaculaire, et elle ne tient pas à la qualité de la rédaction. Elle tient à ce qui accompagne la réponse. Au niveau 3, tu reçois un numéro de référence, un lien officiel et une date de version. Tu cliques, tu tombes sur le texte, et tu vois de tes yeux s'il dit ce qu'on te rapporte. La vérification devient possible en dix secondes, alors qu'elle était impossible avant.
Le mécanisme technique derrière ces branchements est expliqué dans connecter l'IA à tes outils. Pour un dirigeant, l'essentiel tient en une phrase, un connecteur transforme une opinion en citation.
04Le protocole de vérification, en trois gestes
Même au niveau 3, tu vérifies. Voici le protocole que j'applique et que je fais appliquer, il prend deux minutes.
- 1 · OUVRIR
- Tu cliques le lien fourni. Pas de lien, pas de citation.
- 2 · DATER
- Tu regardes la version en vigueur. Un texte juste mais abrogé reste faux.
- 3 · RELIRE
- Tu lis la phrase citée dans le texte, pas le résumé qu'on t'en fait.
Le deuxième geste est celui qu'on saute, et c'est le plus coûteux. Une référence peut exister, être correctement citée, et avoir été modifiée depuis. Une IA qui travaille de mémoire ne connaît pas la date de sa propre connaissance, elle te donnera l'état du texte au moment de son apprentissage sans jamais le préciser.
Demande toujours la date de version, pas seulement la référence. Un article exact dans sa version abrogée est une erreur à part entière.
Le troisième geste protège d'un travers plus subtil. La référence est bonne, le texte est à jour, et le résumé qu'on t'en fait déforme la portée. C'est fréquent sur les textes à exceptions, et c'est invisible si tu ne lis pas la source.
05Les domaines où ce n'est pas négociable
Il y a des sujets où le niveau 1 est simplement interdit, parce que l'erreur ne se rattrape pas.
Le fiscal, parce qu'un redressement se chiffre et que la doctrine change tous les ans. Le juridique, parce qu'une référence inexistante dans un échange contradictoire abîme ta crédibilité pour tout le dossier. Les obligations réglementaires, parce que les dates d'application bougent, comme l'ont montré les reports successifs du calendrier européen sur l'intelligence artificielle. Et tout ce qui touche à la santé, pour des raisons qui n'ont pas besoin d'être explicitées.
Une règle simple pour trancher. Si tu comptes transmettre la réponse à un tiers en engageant ton nom, tu es au niveau 3 ou tu ne transmets pas. Si la réponse ne sort pas de ton bureau et sert à réfléchir, le niveau 1 fait très bien l'affaire et il est beaucoup plus rapide.
Dans le cadre professionnel, la CNIL publie des fiches pratiques sur l'application du RGPD aux systèmes d'IA, qui valent d'être lues avant de faire circuler des données dans ces outils. Le RGPD appliqué à l'IA en entreprise reprend ce volet en détail.
06Ce que ça ne règle pas
Un connecteur officiel supprime la source inventée. Il ne supprime pas l'interprétation discutable, et il ne fait pas de toi un juriste ni un fiscaliste.
Ce que tu gagnes est considérable malgré tout. Tu arrives chez ton conseil avec la bonne référence et une question précise, au lieu d'une intuition floue. Le rendez-vous dure vingt minutes au lieu d'une heure, et il porte sur ton cas plutôt que sur du défrichage. C'est là que se trouve le gain réel, et il est très supérieur à celui qu'on vend habituellement.
Dernière limite, et elle est franche. Aucun de ces branchements ne couvre tout le droit ni toute la doctrine. Quand la base ne contient pas la réponse, un bon système te dit qu'il ne trouve pas. C'est le comportement que tu dois exiger, et c'est celui qu'il faut tester avant de faire confiance à un outil.
Brancher Claude sur la doctrine fiscale. Le numéro BOI, le lien officiel et la date d'entrée en vigueur à chaque réponse, au lieu d'un article inventé. Six écrans pour l'installer, avec les captures. Gratuit.
Brancher Claude sur le BOFiP →07Les questions qu'on me pose à chaque fois
Pourquoi l'IA ne dit-elle pas simplement qu'elle ne sait pas ?
Parce qu'elle ne dispose pas d'un registre de ce qu'elle sait et de ce qu'elle ignore. Elle produit la suite la plus vraisemblable, et une référence bien formée est toujours vraisemblable. L'aveu d'ignorance n'est pas une option qu'elle écarte, c'est une capacité qu'elle n'a pas nativement.
Écrire « ne cite que des sources réelles » suffit-il ?
Non, et c'est le malentendu le plus répandu. Cette consigne demande de distinguer deux choses que le mécanisme ne distingue pas. Elle réduit un peu le phénomène, elle ne le supprime jamais. Seul un accès à la base officielle change la nature de la réponse.
Déposer un PDF dans la conversation, est-ce suffisant ?
C'est déjà beaucoup mieux, c'est le niveau 2. La réponse vaut alors ce que vaut ton document. Si ton PDF est à jour et complet, tu es tranquille. S'il date de trois ans, l'IA te citera fidèlement un texte périmé.
Faut-il quand même vérifier avec un connecteur officiel ?
Oui, en trois gestes qui prennent deux minutes. Ouvrir le lien fourni, regarder la date de version en vigueur, et relire la phrase citée dans le texte plutôt que le résumé. Le deuxième geste est celui qu'on saute et celui qui coûte le plus cher.
Est-ce que ça remplace mon expert-comptable ou mon avocat ?
Non, et personne de sérieux ne le prétendra. Ce que ça change, c'est que tu arrives chez eux avec la bonne référence et une question précise. Le rendez-vous porte alors sur ton cas plutôt que sur du défrichage, et il coûte moins cher.
- CNIL, Les fiches pratiques IA, sur l'application du RGPD aux systèmes d'intelligence artificielle.
- Parlement européen et Conseil, Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l'intelligence artificielle, entré en vigueur le 1er août 2024.
