Kaj je halucinacija umetne inteligence?

Halucinacija je, ko UI odgovori prepričljivo, a napačno: številka, ki je nikoli ni bilo, vir, ki ne obstaja, odstavek v pogodbi, ki tam ni napisan. Model ne laže, le stori, kar vedno stori, napoveduje verjetno besedilo, in včasih verjetno ni resnično.

Halucinacij ni mogoče obljubiti, da jih ne bo, lahko pa jih izgradimo iz tistega, kar je pomembno. Trije ukrepi delujejo: viri (naj UI odgovarja iz določenega gradiva in pokaže, kje piše), označevanje (loči med tistim, kar je podkrepljeno v viru, in tistim, kar je sklep modela) in pregled (osnutki UI so osnutki, dokler jih človek ne odobri).

Zato odgovori EuroWorka v poglobljenih raziskavah povezujejo vire, zato Leadsmaskinen označi vsak kontaktni podatek kot "podkrepljeno" ali "izpeljano", zato imajo dokumenti različice in potek odobritve. Ne vprašajte UI storitve, ali halucinira, to počnejo vse. Vprašajte, kako opazite razliko, ko se to zgodi.