Page mise à jour le
La réponse courte
Une hallucination, pour un modèle de langage, est une sortie fluide, assertive, et fausse : une référence inventée, un montant, un article de loi, un engagement. On ne la supprime pas par une consigne « ne pas inventer ». On la réduit en bornant ce que le modèle a le droit de voir (documents, outils, pas « tout internet »), en lui demandant d'extraire plutôt que de raconter, en refusant qu'il envoie sans relecture ce qui engage, et en journalisant assez pour corriger. Aucun chiffre de « 95 % de fiabilité » n'est cité ici : il ne se transposerait pas à votre corpus. Le droit, lui, n'a pas de régime « hallucination » : une sortie fausse publiée reste votre propos (responsabilité, pratiques commerciales trompeuses, parfois article 22 si une personne est écartée sur une invention).
Ce qui marche, concrètement, et ce qui ne marche pas
Ne marche pas : un prompt long, une température basse comme seule parade, une phrase « si tu ne sais pas, dis-le ». Le modèle produit encore une réponse, souvent. Marche : lui donner le document, et lui interdire d'aller au-delà (extraction, pas rédaction libre) ; citer les passages ; échouer visiblement quand le document ne contient pas la réponse ; utiliser un outil (une base, un tarif, un stock) plutôt que la mémoire du modèle pour tout ce qui est un fait de l'entreprise. Marche aussi : une liste de tâches où l'invention est acceptable (brainstorm, brouillon interne) et une liste où elle ne l'est pas (chiffres, droit, santé, engagement). Cette liste se décide avant le branchement. Après, on ne fait que la constater.
Le coût de l'erreur, pas le taux
Un modèle qui invente une date dans un compte rendu interne, on corrige. Un modèle qui invente un délai de paiement dans un devis envoyé, on lit le code de la consommation et le contrat. Un modèle qui invente un motif pour écarter un candidat, on lit l'article 22 et le guide recrutement de la CNIL. Le même phénomène, trois régimes. Dimensionner la parade sur le coût, pas sur un benchmark public, est la seule méthode qui tient. C'est pourquoi cette page ne recouvre pas celle, sur ce site, qui dit où garder un humain : ici, on parle de ce qu'on met autour du modèle pour qu'il ait moins d'occasions d'inventer. L'humain, lui, reste le filet sur ce qui part.
Droit : vous signez, pas le modèle
Le code de la consommation (pratiques commerciales trompeuses), le droit des contrats, la responsabilité délictuelle, le RGPD, ne s'arrêtent pas parce que « c'est l'IA ». Un prix faux, une allégation produit, une information personnelle erronée communiquée à un tiers, restent les vôtres. L'article 50 de l'AI Act impose, dans certains cas, de signaler qu'un contenu a été généré ; il n'impose pas qu'il soit vrai, et le signalement ne lave pas une allégation. Pour un usage d'annexe III, l'article 26 demandera plus tard de surveiller le fonctionnement conformément à la notice, et d'alerter si le système présente un risque. Dès aujourd'hui, une sortie qui discrimine ou qui invente un fait sur une personne est un incident à traiter, pas un « raté du modèle ».
Mesurer, sans se raconter d'histoires
Un jeu de cas réels, avec la réponse attendue, relancé à chaque changement de modèle, de prompt, de version. Pas dix questions de culture générale. Vos devis, vos FAQ, vos articles de stock, vos clauses. On compte les inventions, les omissions, les refus corrects. On décide d'un seuil d'acceptation par tâche, pas d'un score unique. On journalise les cas ratés. C'est ennuyeux, et c'est le seul moyen de savoir si « on a limité ». Un prestataire qui refuse ce jeu de cas n'a pas un modèle trop avancé pour être testé : il a une démo. La suite, journalisation et auditabilité, est dans les guides voisins.
À vérifier chez vous
Ce que vous pouvez contrôler vous-même
Des points vérifiables sans expertise juridique. Si l'un d'eux coince, c'est celui-là qu'il faut apporter à votre conseil.
- Séparer les tâches où inventer est acceptable et celles où ça ne l'est pas.
- Pour les faits de l'entreprise : document ou outil, pas la mémoire du modèle.
- Exiger un échec visible quand la source ne contient pas la réponse.
- Tenir un jeu de cas réels, relancé à chaque changement.
- Ne jamais laisser partir un chiffre, un délai, une décision sur une personne, sans relecture.
Sources
Chaque affirmation de cette page renvoie au texte qui fait foi. En cas d'écart entre cette page et la source, c'est la source qui a raison.
- EUR-Lex — règlement (UE) 2024/1689 consolidé (CELEX 02024R1689-20260727) (nouvel onglet)
Seul texte de l'AI Act à citer depuis le 27 juillet 2026. Article 113 (calendrier), articles 4, 5, 6, 25, 26, 27, 50, 99, annexes I et III.
- EUR-Lex — règlement (UE) 2016/679 (RGPD) (nouvel onglet)
Articles 5, 6 (base légale), 9, 13-14, 22, 24, 28 (sous-traitant), 32, 35 (AIPD), chapitre V (transferts).
- CNIL — guide du recrutement (nouvel onglet)
Décisions automatisées et recrutement : une invention du modèle qui écarte un candidat n'est pas un détail de qualité, c'est un régime juridique.
- Légifrance — code de la consommation, pratiques commerciales trompeuses (L.121-2 et s.) (nouvel onglet)
Une allégation produit générée par IA et publiée reste une allégation de l'entreprise.
Vos questions
Un modèle plus grand hallucine-t-il moins ?
Parfois, sur certains bancs. Pas de façon fiable sur votre corpus, et pas de façon stable d'une version à l'autre. Un modèle plus grand est aussi plus fluide, donc plus crédible quand il invente. La taille n'est pas une parade. La parade, c'est le bornage : sources, outils, refus, relecture. Choisir « le plus gros » pour régler l'hallucination, c'est souvent choisir la facture la plus haute pour le même problème. Testez sur vos cas. Si le plus petit, borné, fait le travail, gardez-le.
Puis-je m'exonérer contractuellement des erreurs du modèle ?
Vis-à-vis de votre client ou de la personne concernée, presque jamais pour ce qui est de votre responsabilité légale (conformité du produit, données personnelles, pratiques commerciales). Vis-à-vis de votre prestataire, une clause peut répartir le risque, imposer une relecture, un plafond, une assurance. Elle ne fait pas disparaître l'action du tiers. Une clause « l'IA peut se tromper, le client l'accepte » sur un devis envoyé à un acheteur n'est pas une stratégie. Une clause interne « rien ne part sans validation » en est une.
L'article 50 m'oblige-t-il à signaler que le texte peut être faux ?
Non. L'article 50 impose, dans des cas précis, d'indiquer qu'un contenu a été généré ou manipulé par une IA — hypertrucages, certains textes d'intérêt public — pas d'en afficher le taux d'erreur. Le signalement de transparence et la qualité factuelle sont deux devoirs différents. Un texte signalé « généré par IA » et factuellement faux reste faux. Pour un article commercial de site, l'article 50, paragraphe 4, alinéa 2, ne s'applique probablement pas (ce n'est pas de l'information du public sur une question d'intérêt public), mais votre responsabilité éditoriale, si. Mieux vaut un humain qui signe qu'un bandeau qui n'engage personne.
Une idée en tête ?
Réservez un rendez-vous ou écrivez-nous — réponse sous 24 h.