Was ist eine KI-Halluzination?

Eine Halluzination liegt vor, wenn eine KI selbstsicher antwortet, aber falsch liegt: eine Zahl, die es nie gab, eine Quelle, die nicht existiert, ein Absatz in einem Vertrag, der dort gar nicht steht. Die KI lügt nicht, sie tut einfach das, was sie immer tut, sie sagt den wahrscheinlichsten Text voraus. Manchmal ist das Wahrscheinliche aber nicht das Wahre.

Halluzinationen lassen sich nicht einfach wegzaubern, aber man kann sie aus dem heraushalten, was wirklich zählt. Drei Maßnahmen funktionieren: Quellen (lass die KI aus einem festgelegten Material antworten und zeige, wo es steht), Kennzeichnung (unterscheide zwischen dem, was in einer Quelle belegt ist, und dem, was die Schlussfolgerung der KI ist) und Prüfung (KI-Entwürfe bleiben Entwürfe, bis ein Mensch sie freigibt).

Deshalb verlinken die Antworten von EuroWork bei der Tiefgehenden Recherche ihre Quellen, deshalb kennzeichnet der Leadsmaskinen jeden Kontakt als "belegt" oder "abgeleitet", und deshalb haben Dokumente Versionen und ein Freigabeverfahren. Frag eine KI nie, ob sie halluziniert, das tun alle. Frag lieber, wie du erkennst, wenn es passiert.