Che cos'è un'allucinazione dell'AI?

Un'allucinazione si verifica quando un'AI risponde con sicurezza ma sbaglia: un numero che non è mai esistito, una fonte che non esiste, un paragrafo in un contratto che non c'è. Il modello non mente, fa semplicemente quello che fa sempre, prevede il testo più probabile, e a volte ciò che è probabile non è ciò che è vero.

Le allucinazioni non si possono eliminare con una promessa, ma si possono ridurre in ciò che conta davvero. Tre rimedi funzionano: fonti (fai rispondere l'AI da un materiale specifico e mostra dove è scritto), etichettatura (distinguere ciò che è supportato da una fonte da ciò che è una conclusione del modello) e revisione (le bozze dell'AI rimangono bozze finché una persona non le approva).

Ecco perché le risposte di ricerca di EuroWork collegano le loro fonti, ecco perché Leadsmaskinen etichetta ogni dato di contatto come "supportato" o "dedotto", ed ecco perché i documenti hanno versioni e flussi di approvazione. Non chiedere mai a un servizio di AI se ha delle allucinazioni, ce le hanno tutti. Chiedi invece come puoi riconoscere quando succede.