Hva er en AI-hallusinasjon?

En hallusinasjon er når en AI svarer selvsikkert, men feil: et tall som aldri har eksistert, en kilde som ikke finnes, et avsnitt i en avtale som ikke står der. Modellen lyver ikke, den gjør det den alltid gjør, forutsier sannsynlig tekst, og noen ganger er det sannsynlige ikke det sanne.

Hallusinasjoner kan ikke loves bort, men de kan bygges bort fra det som betyr noe. Tre mottiltak virker: kilder (la AI-en svare ut fra et bestemt materiale og vise hvor det står), merking (skille mellom det som er belagt i en kilde og det som er modellens konklusjon), og granskning (AI-utkast er utkast til en menneskelig godkjenner dem).

Det er derfor EuroWorks research-svar lenker til kildene sine, derfor merker Leadsmaskinen hver kontaktinformasjon som "belagt" eller "avledet", og derfor har dokumenter versjoner og godkjenningsflyt. Ikke spør en AI-tjeneste om den hallusinerer, det gjør alle. Spør hvordan du ser forskjell når det skjer.