Hvad er en AI-hallucination?
Når AI’en svarer selvsikkert, men forkert, har den hallucineret: fundet på noget. Hvorfor det sker, og hvilke modtræk der faktisk virker.
En hallucination er når en AI svarer selvsikkert, men forkert: et tal der aldrig har eksisteret, en kilde der ikke findes, et afsnit i en kontrakt som ikke står der. Modellen lyver ikke, den gør det, den altid gør, forudsiger sandsynlig tekst, og nogle gange er det sandsynlige ikke det sande.
Hallucinationer kan man ikke love væk, men man kan bygge dem væk fra det, der betyder noget. Tre modtræk virker: kilder (lad AI’en svare ud fra et bestemt materiale og vis, hvor det står), mærkning (skil mellem det, der er belagt i en kilde, og det, der er modellens konklusion), og gennemgang (AI-udkast er udkast, indtil en person har godkendt dem).
Derfor linker EuroWorks svar i dybdegående research til sine kilder, derfor mærker Leadsmaskinen hver kontaktoplysning som "belagt" eller "afledt", og derfor har dokumenter versioner og godkendelsesflow. Spørg aldrig en AI-tjeneste, om den hallucinerer, det gør de alle sammen. Spørg i stedet, hvordan du kan se forskel, når det sker.
Dine medarbejdere bruger allerede AI, ofte på private konti hvor ingen kan se, hvad der bliver kopieret ind. Med EuroWork får de den samme AI-hjælp ét sted, hvor du har styr på det: følsomme data bliver fanget, før de sendes afsted, behandlingen sker i EU, og hver svar viser sin pris, mens ledelsen sætter reglerne.
Se, hvordan EuroWork virker →