Ce este o halucinație a AI-ului?

O halucinație apare când un AI răspunde cu încredere, dar greșit: o cifră care nu a existat niciodată, o sursă care nu există, un paragraf dintr-un contract care nu este acolo. Modelul nu minte, face doar ce face mereu, prezice text probabil, iar uneori ceea ce e probabil nu e și adevărat.

Halucinațiile nu pot fi eliminate complet, dar pot fi reduse în ceea ce contează cu adevărat. Trei soluții funcționează: sursele (lasă AI-ul să răspundă pe baza unui material stabilit și să arate unde scrie), etichetarea (distingi între ce este confirmat într-o sursă și ce este concluzia modelului) și verificarea (schițele AI rămân schițe până când o persoană le aprobă).

De aceea răspunsurile de cercetare aprofundată din EuroWork includ linkuri către surse, de aceea Leadsmaskinen etichetează fiecare informație de contact ca "confirmat" sau "dedus", și de aceea documentele au versiuni și flux de aprobare. Nu întreba niciodată un serviciu AI dacă halucinează, pentru că toate fac asta. Întreabă cum poți vedea diferența când se întâmplă.