Šta je AI halucinacija?

Halucinacija je kada AI odgovara samopouzdano, ali pogrešno: broj koji nikada nije postojao, izvor koji ne postoji, pasus u ugovoru koji tamo nije napisan. Model ne laže, on radi ono što uvijek radi, predviđa vjerovatni tekst, a ponekad je vjerovatno ne i istinito.

Halucinacije se ne mogu obećati da će nestati, ali se mogu ukloniti iz onoga što je važno. Tri sredstva zaista pomažu: izvori (pustite AI da odgovara iz određenog materijala i pokaže gdje piše), označavanje (razlikujte ono što je potvrđeno u izvoru od onoga što je zaključak modela) i provjera (AI nacrti su nacrti dok ih čovjek ne odobri).

Zato odgovori u Dubinskom istraživanju u EuroWorku povezuju svoje izvore, zato AI kolega za prodaju označava svaki kontakt podatak kao "potvrđeno" ili "izvedeno", a zato dokumenti imaju verzije i tok odobravanja. Nikada ne pitajte AI uslugu da li halucinira, sve to rade. Pitajte kako da uočite razliku kada se to dogodi.