Qu’est-ce qu’une hallucination d’IA ?

Une hallucination, c’est quand une IA répond avec assurance mais se trompe : un chiffre qui n’a jamais existé, une source qui n’existe pas, un paragraphe dans un contrat qui n’y figure pas. Le modèle ne ment pas, il fait ce qu’il fait toujours, il prédit du texte probable, et parfois, le probable n’est pas le vrai.

On ne peut pas promettre d’éliminer les hallucinations, mais on peut les écarter de ce qui compte vraiment. Trois remèdes fonctionnent : les sources (faire répondre l’IA à partir d’un matériel précis et montrer où c’est écrit), l’étiquetage (distinguer ce qui est attesté dans une source de ce qui est une conclusion du modèle), et la relecture (les brouillons générés par l’IA restent des brouillons tant qu’un humain ne les a pas validés).

C’est pour ça que les réponses de recherche d’EuroWork lient leurs sources, c’est pour ça que Leadsmaskinen étiquette chaque donnée de contact comme "attesté" ou "déduit", et c’est pour ça que les documents ont des versions et un flux de validation. Ne demandez jamais à un service d’IA s’il hallucine, ils le font tous. Demandez plutôt comment repérer la différence quand ça arrive.