Blogg · · Av Rickard Eriksson

Kan AI stoppa bløff-e-post? Ja. Men ikkje heilt så bra som overskrifta lover

Forskarar lét AI lesa tusenvis av bløff-e-postar. Ho fann to av tre, og det er dårleg for ein livvakt. Det verkeleg nyttige resultatet handlar om noko heilt anna, og det avgjer korleis de bør bruka ho.

Dette biletet er laga av ein AI og godkjent av ein person. Den maskinlesbare AI-merkinga ligg inne i biletefilen.

Klokka er ti på fire ein fredag ettermiddag. Fakturaen ser akkurat ut som alle andre fakturaer frå leverandøren de har hatt i ni år, same logo, same referanse, same tørre formulering. Berre kontonummeret er nytt. Det står noko om byte av bank.

Ingen ringer og sjekkar ein fredag ettermiddag klokka ti på fire.

Slik går det til. Bløff-e-post koster europeiske verksemder milliardar kvart år, og det som gjer dei vanskelege å oppdaga, er ikkje at dei er sinnrike. Det er at dei aldri ser heilt like ut to gonger.

I fjor sumar kom det ein forskingsrapport som fekk overskrifter om at AI no er den digitale livvakta vår mot svindlarar. Vi las ho. Ho seier noko anna enn overskriftene. Og det ho seier, er mykje meir nyttig, så følg med.

Først: talet som ingen skryter av

Forskarane lét ni ulike AI-tenester, mellom dei ChatGPT, lesa fleire tusen ekte bløffar. Ingen av dei var særskilt trena for oppgåva. Dei fekk berre lesa og seia kva dei meinte, om lag som om de limte inn ein tvilsam e-post og spurde "kva synest du om dette?".

Dei beste fann to av tre.

To av tre. Les det talet ein gong til før nokon seljer inn AI som løysinga på svindel hos dykk. Ein livvakt som blundar kvar tredje gong, får ikkje jobben. Han blir ikkje ein gong kalla inn til intervju.

Så: talet som faktisk tyder noko

No blir det interessant, for forskarane gjorde noko klokare enn å berre telja treff.

Dei sette den vanlege AI-en opp mot eit spesialbygd program, av det slaget som allereie sit i e-postfilter og tryggleiksprodukt. Slike program blir mata med bløffar som allereie har skjedd, og blir skikkeleg gode på akkurat dei. I den første testen vann spesialisten, som venta.

Så viste forskarane begge eit materiale dei ikkje hadde sett før. Nye bløffar, nye opplegg.

Spesialisten mista nesten halve evna si. Den vanlege AI-en stod igjen på same nivå som før.

Og der har de heile poenget. Eit vanleg søppelpostfilter er som ein dørvakt med ei perm med gamle politibilde: utmerkt til å kjenna att dei som allereie er tatt, blank i andletet når nokon ny dukkar opp. AI-en står derimot der og lyttar til korleis folk snakkar. Ho reagerer på den oppdikta hastverket, hòlet i historia, tonen som skal få deg til å hoppa over eit steg du aldri elles hoppar over.

Dårlegare på det gamle. Mykje meir stabil på det nye. Og det er det nye som råkar dykk, for svindlarane byter opplegg langt oftare enn filtrene klarer å oppdaterast.

To ting til, frå same rapport

De treng ikkje noko stort prosjekt. Også dei mindre og billigare tenestene blei merkbart betre berre av at spørsmålet blei stilt tydelegare. Det handlar altså mest om korleis oppgåva blir formulert, ikkje om å byggja noko eige for millionar.

Forskarane skryter ikkje. Dei skriv rett ut at materialet dei testa på, var mindre og skeivare enn dei ønskte, og at resultata hoppa avhengig av korleis spørsmålet blei stilt. Det er uvanleg ærleg, og det er ein grunn til å stola meir på dei, ikkje mindre.

Kva to av tre duger til

Ikkje til å avgjera noko. Utmerkt til å peika.

Bygg det derfor som ein kollega som kremtar, aldri som ein sperre som stille kastar ting i papirkorga. Eit filter som gjetter feil og kastar ein ekte kundee-post, kostar dykk meir enn bløffen det skulle ha stoppa. Ein liten merknad som får ein menneske til å stansa opp i to sekund, kostar nesten ingenting.

Og det er i dei to sekunda svindel blir stoppa. Ikkje i teknologien. I den tanken: vent litt, pleier dei å byta bank ein fredag ettermiddag?

Slik gjorde vi med vår eigen innboks

Vi prøvde på oss sjølv. Det er det einaste vi veit at eit påstand held.

All e-post til eurowork.ai går gjennom same sortering, same kva adressa er, hej@, hola@, bonjour@ eller czesc@. Kvart brev får ei vurdering: ekte brev, nyheitsbrev, reklame eller bløff. Vurderinga står i emnefeltet når brevet når oss, med ei linje om kvifor. Ein veit altså kva ein ser før ein i det heile teke opnar det.

Ingenting blir sletta. Ingenting blir sortert bort. Vurderinga peiker, mennesket avgjer.

Er det eit ekte brev, skjer det to ting til.

Det blir omsett til norsk, og det er norsken me lagrar. Originalen ligg alltid att under omsetjinga, så ingenting kan gøyma seg i ei tolking.

Og den som skreiv, får svar på sitt eige språk. Ei kort linje som seier at brevet har komme fram, viser med éin setning at me har forstått kva saka gjeld, og lovar at eit menneske les og tar kontakt. Linja er merkt som skriven av AI, for det er ho, og EU sitt regelverk for AI krev at ein seier det. Sjølve svaret på spørsmålet kjem alltid frå eit menneske.

Nyheitsbrev, reklame og bløffar får aldri noko svar. Heller ikkje dei adressene som byrjar med "no-reply" og som ingen menneske les. Dei får tausheit, og det er det rette svaret. Ei vennleg automatmelding til eit masseudsending er i beste fall bortkasta tid, i verste fall to maskinar som artig takkar kvarandre til evig tid.

Ein omsetjar i døra, med ein dørvakt ved sida. Vi er ganske nøgde med det.

Tre ting å ta med til neste møte

Ikkje trua på den som seier at AI løyser svindelen. To av tre er ikkje noka løysing, det er ein hjelp.

Ta imot hjelpa likevel, for ho held stand når bløffen er ny. Det er akkurat der dei gamle filtra sviktar.

Og byrja lite. Det går an å prøva på éin enkel innboks, med det de allereie betaler for, før nokon treng å ta éin einaste stor avgjerd. Vi byrja med vår eigen.

Og ring leverandøren ein fredag ettermiddag. Dei er faktisk våkne.

Kjelda

Rapporten heiter "Measuring and Evaluating the Performance of Generative AI Models for Scam Detection" og blei publisert 19. juli 2026. Ho er fri å lesa, og den som vil sjå tala sjølv, finn dei her: arxiv.org/html/2607.17353v1

Rickard Eriksson

Rickard Eriksson

I 1996 skapte Rickard Eriksson det som blei LunarStorm, verdas første sosiale medium, og har sidan lært opp folk frå over 7 000 føretak og offentlege organisasjonar i AI. I dag driv han EuroWork.

Les meir om Rickard Eriksson

Denne teksten er omsett frå svensk til norsk nynorsk ved hjelp av kunstig intelligens.

EuroWork

Medarbeidarane dine nyttar allereie AI, ofte på private kontoar der ingen ser kva som blir lime inn. Med EuroWork får dei same AI-hjelpa på ein stad der du har kontrollen: sensitive data blir fanga opp før dei blir sende, behandlinga skjer i EU, kvar einskild svar viser prisen sin, og leiinga set reglane.

Sjå korleis EuroWork fungerer →