Wat ass eng KI-Halluzinatioun?

Eng Halluzinatioun ass, wann eng KI selwerwierklech äntwert, mee falsch: eng Zuel, déi et ni ginn huet, eng Quell, déi net existéiert, oder eng Paragraf an engem Vertrag, déi do net steet. D’Modell lëllt net, si mécht dat, wat si ëmmer mécht, se prognostizéiert wouerscheinleche Text, an heiansdo ass dat Wouerscheinlech net dat Wouhre.

Halluzinatiounen kann een net einfach verspréchen, si ze vermeiden, mee een kann se aus dem ewech huelen, wat wierklech zielt. Dräi Mëttel hëlleften: Quellen (looss d’KI aus engem bestëmmen Material äntweren an weisen, wou et steet), Markéierung (maach en Ënnerscheed tëschent dem, wat an enger Quell steet, an dem, wat d’Modell doraus schléisst), an Iwwerpréifung (KI-Entwierfer sinn Entwierfer, bis e Mënsch se geneeegt huet).

Deshalb weisen d’Antwerten vun EuroWork bei der Dëschtforschung hir Quellen, deshalb markéiert de Leadsmaskin all Kontaktinformatioun als "beleeën" oder "afgeleet", an deshalb hunn Dokumenter Versiounen an e Geneemigungsprozess. Fro nëmme keng KI-Servicer, ob si halluzinéiert, dat maachen all. Fro nëmme, wéi s du gesäis, wann et geschitt.