Kva er ein AI-hallusinasjon?

Ein hallusinasjon er når ein KI svarer sjølvsikkert, men feil: eit tal som aldri har eksistert, ein kjelde som ikkje finst, ein paragraf i ein avtale som ikkje står der. Modellen lyg ikkje, den gjer det den alltid gjer, føreser truleg tekst, og av og til er det trulege ikkje det sanne.

Hallusinasjonar kan ein ikkje love bort, men dei kan ein byggje bort frå det som spelar ei rolle. Tre motmiddel virkar: kjelder (la KI-en svare ut frå eit bestemt materiale og vis kvar det står), merking (skil mellom det som er dokumentert i ei kjelde og det som er modellens slutning), og gransking (KI-utkast er utkast til ein menneske har godkjent dei).

Det er derfor EuroWork sine research-svar lenkjer til kjeldene sine, derfor Leadsmaskinen merker kvar kontaktopplysning som "dokumentert" eller "utleidd", og derfor dokument har versjonar og godkjenningsflyt. Spør aldri ein KI-teneste om den hallusinerer, det gjer alle. Spør korleis du ser skilnaden når det skjer.