Što je AI halucinacija?

Halucinacija je kada AI odgovara samouvjereno, ali pogrešno: broj koji nikad nije postojao, izvor koji ne postoji, odlomak u ugovoru koji tamo nije napisan. Model ne laže, on radi ono što uvijek radi, predviđa vjerojatan tekst, a ponekad ono vjerojatno nije istinito.

Halucinacije se ne mogu obećati ukloniti, ali se mogu izgraditi iz onoga što je važno. Tri rješenja funkcioniraju: izvori (pustite AI da odgovara iz određenog materijala i pokaže gdje to piše), označavanje (razlikujte ono što je potvrđeno u izvoru od onoga što je zaključak modela) i provjera (AI nacrti su nacrti dok ih čovjek ne odobri).

Zato odgovori EuroWorka u Dubinskom istraživanju povezuju svoje izvore, zato AI kolega za upravljanje potencijalnim klijentima označava svaki kontakt podatak kao "potvrđeno" ili "izvedeno", a zato dokumenti imaju verzije i tijek odobravanja. Nikad ne pitajte AI uslugu halucinira li, to rade sve. Pitajte kako ćete prepoznati kada se to dogodi.