Què és una al·lucinació d'IA?

Una al·lucinació és quan una IA respon amb seguretat però s'equivoca: una xifra que mai no ha existit, una font que no existeix, un paràgraf en un contracte que no hi és. El model no menteix, fa el que sempre fa, predir text probable, i de vegades el probable no és el veritable.

Les al·lucinacions no es poden prometre que desapareixeran, però sí que es poden eliminar del que realment importa. Tres remeis funcionen: fonts (deixa que la IA respongui a partir d'un material concret i mostri on ho diu), etiquetatge (diferencia el que està documentat en una font del que és una conclusió del model) i revisió (els esborranys d'IA ho són fins que una persona els aprova).

Per això les respostes de recerca d'EuroWork enllacen les seves fonts, per això Leadsmaskinen etiqueta cada dada de contacte com a "documentada" o "derivada", i per això els documents tenen versions i fluxos d'aprovació. No preguntis mai a un servei d'IA si al·lucina, tots ho fan. Pregunta com pots veure la diferència quan passa.