Ali lahko umetna inteligenca ustavi lažna elektronska pisma? Da, a ne tako dobro, kot trdijo naslovi

Petek, dvajset do štirih. Račun izgleda povsem enako kot vsi prejšnji računi dobavitelja, s katerim sodelujete že devet let: enaka logotipa, enaka referenca, enako suhoparna formulacija. Spremenjen je le številka računa. Piše, da je prišlo do spremembe banke.

V petek ob dvajset do štirih nihče ne dvigne telefona, da bi preveril.

Tako se zgodi. Lažna elektronska pisma vsako leto stanejo evropska podjetja milijarde, in težava ni v njihovi iznajdljivosti. Težava je, da nikoli ne izgledajo enako dvakrat.

Poleti je izšla raziskava, ki je v naslovih obljavljala, da je umetna inteligenca zdaj naš digitalni telesni stražar proti goljufijam. Prebrali smo jo. Pove nekaj povsem drugega kot naslovi. In to, kar pove, je še kako uporabno, zato poslušajte.

Najprej: številka, s katero se nihče ne hvali

Raziskovalci so devet različnih storitev umetne inteligence, med njimi ChatGPT, naučili prebrati več tisoč pravih lažnih elektronskih pisem. Nobena od njih ni bila posebej usposobljena za to nalogo. Preprosto so jim dali prebrati in povprašati, kaj menijo, podobno kot, če bi vam prišlo sumljivo elektronsko pismo in bi vprašali: »Kaj misliš o tem?«

Najboljše so odkrile dve tretjini.

Dve tretjini. Preberite to številko še enkrat, preden vam kdo proda umetno inteligenco kot rešitev za goljufije v vašem podjetju. Telesni stražar, ki vsak tretjič zamrzi, ne dobi službe. Ne dobi niti razgovora za zaposlitev.

Nato: številka, ki dejansko nekaj pomeni

Tu postane zanimivo, saj so raziskovalci naredili nekaj pametnejšega, kot da bi samo šteli zadetke.

Postavili so običajno umetno inteligenco proti specializiranemu programu, kakršni že delujejo v filtrih za elektronska pisma in varnostnih izdelkih. Take programe hranijo s podatki o goljufijah, ki so se že zgodile, in postanejo zelo učinkoviti ravno za te primere. V prvem testu je zmagal specialist, kot je bilo pričakovati.

Nato so obema pokazali gradivo, ki ga še nista videla. Nove goljufije, nove pristope.

Specialist je izgubil skoraj polovico svoje učinkovitosti. Običajna umetna inteligenca je ostala na enaki ravni kot prej.

In v tem je celotna poanta. Običajni filtri za neželena sporočila so kot vratar z mapo starih policijskih fotografij: odlični pri prepoznavanju tistih, ki so že bili ujeti, a brez besed, ko se pojavi nekdo nov. Umetna inteligenca pa stoji tam in posluša, kako ljudje govorijo. Odzove se na izmišljeno nujnost, luknjo v zgodbi, ton, ki vas želi prepričati, da preskočite korak, ki ga sicer nikoli ne preskočite.

Slabša pri starem. Precej bolj zanesljiva pri novem. In ravno novo vas prizadene, saj goljufi spreminjajo pristope veliko hitreje, kot filtri uspejo posodobiti.

Še dve stvari iz iste raziskave

Ne potrebujete velikega projekta. Tudi manjše in cenejše storitve so postale opazno boljše, ko je bilo vprašanje postavljeno jasneje. Gre predvsem za to, kako je naloga formulirana, ne pa za izgradnjo lastne rešitve za milijone.

Raziskovalci se ne hvalijo. Pisali so naravnost, da je bil preizkusni vzorec manjši in pristranski, kot bi si želeli, in da so se rezultati spreminjali glede na to, kako je bilo vprašanje zastavljeno. To je neobičajno pošteno, in ravno zato jim lahko bolj zaupamo, ne manj.

Za kaj je dovolj dve tretjini

Ne za odločanje. Odlično je za opozarjanje.

Zato jo oblikujte kot kolega, ki si odkašlja, nikoli pa kot zaporo, ki tiho zavrže stvari v koš. Filter, ki se zmoti in zavrže pravo elektronsko sporočilo od stranke, vas stane več kot goljufija, ki bi jo ustavil. Majhna oznaka, ki človeka ustavi za dve sekundi, skoraj nič ne stane.

In ravno v teh dveh sekundah se goljufije ustavijo. Ne v tehnologiji, ampak v tisti misli: počakaj malo, ali res menjajo banko v petek?

Tako smo naredili s svojo poštno mapo

Preizkusili smo na sebi. Edini način, da vemo, ali trditev drži.

Vsa pošta na naslov eurowork.ai gre skozi isto razvrščanje, ne glede na to, ali je bila poslana na hej@, hola@, bonjour@ ali czesc@. Vsako sporočilo dobi oceno: pravo pismo, novice, oglasno sporočilo ali goljufija. Ocena je zapisana v naslovu, ko sporočilo pride do nas, skupaj z razlago, zakaj je tako ocenjeno. Tako že vnaprej veste, na kaj gledate, še preden ga odprete.

Nič ne izbrišemo. Nič ne razvrstimo stran. Ocena opozarja, človek odloča.

Če gre za pravo pismo, se zgodita še dve stvari.

Prevedemo ga v slovenščino in shranimo prevod. Original vedno ostane pod prevodom, tako da se nič ne more skriti v tolmačenju.

In tistemu, ki je pisal, odgovorimo v njegovem jeziku. Kratek stavek, ki pove, da je sporočilo prispelo, pokaže z enim stavkom, da smo razumeli, o čem gre, in obljubi, da bo človek prebral in odgovoril. Ta stavek je označen kot napisan z umetno inteligenco, saj je res tak, in Uredba EU o umetni inteligenci zahteva, da to povemo. Pravi odgovor na vprašanje pa vedno pride od človeka.

Novicam, oglasom in goljufijam nikoli ne odgovorimo. Prav tako ne tistim naslovom, ki se začnejo z »no-reply« in jih ne bere noben človek. Ti dobijo tišino, in to je pravilen odgovor. Prijazen avtomatski odgovor na množično pošiljanje je v najboljšem primeru izguba časa, v najslabšem pa dve napravi, ki se vljudno zahvaljujeta do neskončnih časov.

Prevajalec na vhodu, z vratarjem ob sebi. S tem smo precej zadovoljni.

Tri stvari, ki jih ponesite na naslednji sestanek

Ne verjamejte tistemu, ki pravi, da umetna inteligenca reši goljufije. Dve tretjini nista rešitev, sta le pomoč.

Pomoč vseeno sprejmite, saj zdrži, ko je goljufija nova. Ravno tam spodrsajo stari filtri.

In začnite majhno. Lahko preizkusite na eni sami poštni mapi, s tistim, za kar že plačujete, preden kdo potrebuje sprejeti kakšno veliko odločitev. Mi smo začeli s svojo.

In pokličite dobavitelja v petek popoldan. Res so budni.

Vir

Poročilo nosi naslov »Measuring and Evaluating the Performance of Generative AI Models for Scam Detection« in je bilo objavljeno 19. julija 2026. Je prosto dostopno, in kdor želi videti številke, jih najde tukaj: arxiv.org/html/2607.17353v1