Pourquoi l'IA « invente » : elle calcule des probabilités, pas des vérités
L'hallucination n'est pas un bug. C'est la conséquence directe de tout ce qu'on a vu dans les épisodes précédents. Voici pourquoi.
C'est l'épisode qui change votre rapport à l'IA. On a vu qu'elle découpe, vectorise, pondère (l'attention), puis prédit le mot suivant. Or à cette dernière étape, elle ne se demande jamais « est-ce vrai ? ». Elle se demande « qu'est-ce qui est le plus probable ? ». Ce n'est pas la même question.
Le mot le plus probable n'est pas toujours le vrai
À chaque étape, l'IA a une liste de candidats avec un score de probabilité, et elle tire dans cette liste — le plus souvent le plus haut. Quand les données penchent vers une réponse fausse mais « qui sonne juste », c'est elle qui sort. Avec un aplomb total.
« Sydney » est partout dans les textes sur l'Australie : la ville la plus connue. Statistiquement, c'est le candidat le plus probable après « la capitale de l'Australie est ». L'IA n'a pas menti — elle a fait exactement son travail : donner le plus probable. Le problème, c'est qu'on attendait le plus vrai.
Une IA ne se trompe pas « par erreur ». Elle produit du plausible. Quand le plausible est faux, on appelle ça une hallucination — mais la mécanique, elle, n'a pas changé.
Pourquoi elle ne dit jamais « je ne sais pas »
Parce que « je ne sais pas » est rarement la suite la plus probable ! Face à un trou, l'IA le comble avec ce qui ressemble le plus à une bonne réponse : un nom d'auteur crédible, une jurisprudence à la référence parfaitement formée… et parfois totalement inventée. La forme est impeccable. Le fond, à vérifier.
Ce que ça change, très concrètement
- Vérifiez tout ce qui est factuel : chiffres, dates, noms, références. La fluidité n'est pas une preuve.
- Méfiez-vous de l'assurance : une IA est aussi confiante quand elle a raison que quand elle invente.
- Donnez-lui la source : branchée sur un texte fiable, elle cite au lieu de deviner. C'est tout le principe d'une IA outillée.
C'est exactement pour ça que j'ai bâti DAIRIA IA pour qu'elle cite ses sources — une IA juridique qui devine, ça n'existe pas chez moi. Elle s'appuie sur le droit réel, et l'avocat garde la main.
Dernier épisode à venir : bien lui parler. Tous les épisodes : le Journal.
Vulgarisation personnelle, à titre pédagogique. Contenu original ; ne reproduit aucun document tiers. © Sofiane Coly — sofianecoly.com