Wat is een AI-hallucinatie?

Een hallucinatie is wanneer een AI vol zelfvertrouwen antwoordt, maar het mis heeft: een cijfer dat nooit bestaan heeft, een bron die niet bestaat, een alinea in een contract die er niet staat. Het model liegt niet, het doet gewoon wat het altijd doet, voorspellen welke tekst waarschijnlijk is. En soms is het waarschijnlijke niet het ware.

Hallucinaties kun je niet beloven weg te nemen, maar je kunt ze wel weghalen uit wat er echt toe doet. Drie oplossingen werken: bronnen (laat de AI antwoorden vanuit vastgesteld materiaal en laat zien waar het staat), labeling (maak onderscheid tussen wat in een bron staat en wat de conclusie van het model is), en controle (AI-concepten blijven concepten tot een mens ze goedkeurt).

Daarom linken de onderzoeksantwoorden van EuroWork hun bronnen, daarom markeert Leadsmachine elk contactgegeven als "vastgesteld" of "afgeleid", en daarom hebben documenten versies en een goedkeuringsproces. Vraag nooit aan een AI-dienst of hij hallucineert, dat doen ze allemaal. Vraag hoe je het verschil ziet als het gebeurt.