Çfarë është një halucinacion i AI?

Një halucinacion është kur AI përgjigjet me siguri por gabim: një shifër që nuk ka ekzistuar kurrë, një burim që nuk ekziston, një paragraf në një kontratë që nuk është aty. Modeli nuk gënjen, ai bën atë që bën gjithmonë, parashikon tekstin më të mundshëm, dhe ndonjëherë ai i mundshmi nuk është i saktë.

Halucinacionet nuk mund të zhduken me premtime, por mund të ndërtohen jashtë nga ajo që ka rëndësi. Tre mjete kundër tyre funksionojnë: burimet (lëreni AI të përgjigjet bazuar në një material të caktuar dhe të tregojë ku shkruhet), etiketimi (ndani atë që është vërtetuar në një burim nga ajo që është përfundim i modelit), dhe kontrolli (draftet e AI janë draft derisa një njeri i miraton).

Kjo është arsyeja pse përgjigjet e kërkimit të EuroWork lidhin burimet e tyre, kjo është arsyeja pse Makina e Udhëheqësve etiketon çdo informacion kontakti si "i vërtetuar" ose "i nxjerrë", dhe kjo është arsyeja pse dokumentet kanë versione dhe rrjedhë miratimi. Mos pyetni kurrë një shërbim AI nëse halucinon, të gjithë e bëjnë. Pyetni se si mund të dalloni kur ndodh.