Co je to halucinace umělé inteligence?

Halucinace nastává, když AI odpovídá sebejistě, ale špatně: číslo, které nikdy neexistovalo, zdroj, který není k nalezení, nebo odstavec ve smlouvě, který tam ve skutečnosti není. Model nelže, dělá jen to, co vždycky, předpovídá pravděpodobný text. A někdy to pravděpodobné není pravdivé.

Halucinacím se nedá slíbit konec, ale dá se je odstranit z toho, na čem opravdu záleží. Tři protizásahy fungují: zdroje (nechte AI odpovídat z konkrétního materiálu a ukažte, kde to stojí), označování (rozlišujte mezi tím, co je doloženo ve zdroji, a tím, co je závěr modelu), a kontrola (návrhy od AI jsou návrhy, dokud je neschválí člověk).

Proto odpovědi z Hlubokého výzkumu v EuroWorku odkazují na své zdroje, proto Leadsmaskinen označuje každý kontaktní údaj jako "doloženo" nebo "odvozeno", a proto mají dokumenty verze a schvalovací workflow. Nikdy se AI služby neptejte, jestli halucinuje, to dělají všechny. Ptejte se, jak poznáte, když se to stane.