Kan AI stoppe svindelmails? Ja. Men slet ikke så godt som overskrifterne påstår

Klokken er tyve minutter i fire fredag eftermiddag. Fakturaen ser præcis ud som alle andre fakturaer fra den leverandør, I har haft i ni år, samme logo, samme reference, samme tørre formulering. Kun kontonummeret er nyt. Der står noget om skift af bank.

Ingen ringer og tjekker en fredag tyve minutter i fire.

Sådan går det til. Svindelmails koster europæiske virksomheder milliarder hvert år, og det, der gør dem svære at opdage, er ikke, at de er snedigt udtænkt. Det er, at de aldrig ser ens ud to gange.

I sommers kom en forskningsrapport, der fik overskrifter om, at AI nu er vores digitale livvagt mod svindlere. Vi læste den. Den siger noget andet end overskrifterne. Og det, den siger, er faktisk meget mere brugbart, så bliv med.

Først: tallet, som ingen skryter af

Forskerne lod ni forskellige AI-tjenester, blandt dem ChatGPT, læse flere tusinde ægte svindelmails. Ingen af dem var trænet specielt til opgaven. De fik bare lov at læse og sige, hvad de mente, næsten som om I kopierede en mistænkelig mail ind og spurgte: "Hvad synes du om den her?"

De bedste fandt to ud af tre.

To ud af tre. Læs det tal en gang til, før nogen forsøger at sælge AI som løsningen på svindel hos jer. En livvagt, der misser hver tredje gang, får ikke jobbet. Han kommer ikke engang til samtale.

Dernæst: tallet, der faktisk betyder noget

Her bliver det interessant, for forskerne gjorde noget klogere end bare at tælle træffere.

De stillede den almindelige AI op mod et specialbygget program, af den slags, der allerede sidder i mailfiltre og sikkerhedsprodukter. Sådanne programmer fodres med svindelmails, der allerede er sket, og bliver rigtig skarpe på netop dem. I den første test vandt specialisten, som forventet.

Så viste forskerne begge et materiale, som ingen af dem havde set før. Nye svindelmails, nye tricks.

Specialisten mistede næsten halvdelen af sin evne. Den almindelige AI stod stadig på samme niveau som før.

Og der har I hele pointen. Et almindeligt spamfilter er som en dørvagt med en mappe fuld af gamle politifotos: fremragende til at genkende dem, der allerede er blevet fanget, men blank i blikket, når en ny person træder frem. AI står derimod og lytter til, hvordan folk taler. Den reagerer på den opdigtede hast, hullet i historien, tonen, der får dig til at springe et trin over, som du ellers aldrig ville springe over.

Dårligere til det gamle. Betydeligt mere stabil på det nye. Og det er det nye, der rammer jer, for svindlerne skifter taktik langt oftere, end filtrene når at opdatere sig.

To ting mere fra samme rapport

I behøver ikke et stort projekt. Selv de mindre og billigere tjenester blev mærkbart bedre, bare ved at spørgsmålet blev stillet tydeligere. Det handler altså mest om, hvordan opgaven formuleres, ikke om at bygge noget eget for millioner.

Forskerne skryder ikke. De skriver ligeud, at det materiale, de testede på, var mindre og mere skævt, end de havde ønsket, og at resultaterne sprang, alt efter hvordan spørgsmålet blev stillet. Det er usædvanligt ærligt, og det er en grund til at stole mere på dem, ikke mindre.

Hvad to ud af tre duer til

Ikke til at træffe beslutninger. Fremragende til at pege på noget.

Byg det derfor som en kollega, der rømmer sig, aldrig som en spærre, der lydløst smider ting i papirkurven. Et filter, der gætter forkert og sletter en ægte kundemail, koster jer mere end den svindelmail, det skulle have stoppet. En lille markering, der får et menneske til at stoppe op i to sekunder, koster næsten ingenting.

Og det er i de to sekunder, svindel stoppes. Ikke i teknologien. I den tanke: Vent lige, plejer de at skifte bank en fredag?

Sådan gjorde vi med vores egen indbakke

Vi prøvede på os selv. Det er den eneste måde, vi ved, at en påstand holder.

Al post til eurowork.ai går gennem den samme sortering, uanset om den er sendt til hej@, hola@, bonjour@ eller czesc@. Hver mail får en vurdering: ægte mail, nyhedsbrev, reklame eller svindel. Vurderingen står i emnefeltet, når mailen når os, sammen med en linje om hvorfor. Så ved man, hvad man kigger på, før man overhovedet åbner den.

Ingenting slettes. Ingenting sorteres væk. Vurderingen peger, mennesket bestemmer.

Er det en ægte mail, sker der to ting mere.

Den oversættes til dansk, og det er den danske version, vi gemmer. Originalen ligger altid under oversættelsen, så intet kan gemme sig i en tolkning.

Og den, der skrev, får svar på sit eget sprog. En kort linje, der siger, at mailen er kommet frem, viser med en sætning, at vi har forstået, hvad sagen drejer sig om, og lover, at et menneske læser og vender tilbage. Linjen er markeret som skrevet af AI, for det er den, og EU’s AI-forordning kræver, at man siger det. Selve svaret på spørgsmålet kommer altid fra et menneske.

Nyhedsbreve, reklamer og svindelmails får aldrig noget svar. Heller ikke de adresser, der begynder med "no-reply" og som ingen mennesker læser. De får stilhed, og det er det rigtige svar. Et venligt autosvar til en masseudsendelse er i bedste fald spild af tid, i værste fald to maskiner, der artigt takker hinanden til tidernes ende.

En oversætter i døren, med en dørvagt ved siden af. Vi er ret tilfredse med det.

Tre ting at tage med til næste møde

Tro ikke på den, der siger, at AI løser svindelproblemet. To ud af tre er ikke en løsning, det er en hjælp.

Tag hjælpen alligevel, for den holder, når svindlen er ny. Det er netop dér, de gamle filtre fejler.

Og begynd i det små. Det kan afprøves på én enkelt indbakke, med det, I allerede betaler for, før nogen behøver at træffe ét eneste stort beslutning. Vi begyndte med vores egen.

Og ring til leverandøren fredag eftermiddag. De er faktisk vågne.

Kilden

Rapporten hedder "Measuring and Evaluating the Performance of Generative AI Models for Scam Detection" og blev offentliggjort den 19. juli 2026. Den er fri at læse, og den, der vil se tallene selv, finder dem her: arxiv.org/html/2607.17353v1