Mis on AI hallutsinatsioon?
Kui tehisintellekt vastab enesekindlalt, aga eksib, on tegu hallutsinatsiooniga: leiutatud faktiga. Miks see juhtub ja millised abinõud tegelikult töötavad.
Hallutsinatsioon on olukord, kus AI vastab enesekindlalt, aga eksib: number, mida pole kunagi olemas olnud, allikas, mida pole olemas, või lepingutingimus, mida seal tegelikult pole. Mudel ei valeta, vaid teeb seda, mida alati teeb, ennustab tõenäolist teksti. Mõnikord aga ei ole tõenäoline see, mis on tõene.
Hallutsinatsioone ei saa lubadustega kõrvaldada, aga neid saab vähendada seal, kus see loeb. Kolm abinõud töötavad: allikad (lase AI-l vastata kindla materjali põhjal ja näita, kust see pärineb), märgendamine (eralda see, mis on allikast tõestatud, ja see, mis on mudeli järeldus), ning kontrollimine (AI mustandid on mustandid seni, kuni inimene need kinnitab).
Sellepärast näitavad EuroWorki sügavuurimuse vastused oma allikaid, sellepärast märgib Liidumasin iga kontaktandme juures, kas see on "tõestatud" või "tuletatud", ja sellepärast on dokumentidel versioonid ja kinnitamisvoog. Ära küsi kunagi AI teenuselt, kas ta hallutseerib, seda teevad kõik. Küsi hoopis, kuidas saad näha, millal see juhtub.
Sinu töötajad kasutavad juba nüüd tehisintellekti, sageli privaatsetes kontodes, kus keegi ei näe, mida sinna kopeeritakse. EuroWork pakub sama AI abi ühes kohas, kus sul on kontroll: tundlikud andmed püütakse kinni enne saatmist, töötlus jääb ELi piiresse, iga vastuse puhul näidatakse hind ja juhtkond seab reeglid.
Vaata, kuidas EuroWork töötab →