Može li AI zaustaviti lažnu poštu? Da. Ali ne baš onako dobro kako naslovnice tvrde

Petak je, dvadeset do četiri. Račun izgleda točno kao i svi drugi računi od dobavljača s kojim surađujete već devet godina: isti logotip, ista referenca, isti suhi stil. Samo je broj računa nov. Piše nešto o promjeni banke.

Nitko neće zvati da provjeri u petak, dvadeset do četiri.

Tako to ide. Lažna pošta godišnje košta europske tvrtke milijarde, a ono što ih čini teškima za otkrivanje nije to što su domišljate. Problem je što nikad ne izgledaju isto dva puta.

Prošlog ljeta objavljeno je istraživanje koje je izazvalo naslove kako je AI sada naš digitalni tjelohranitelj protiv prevaranata. Pročitali smo ga. Ono kaže nešto sasvim drugo od naslova. A ono što kaže puno je korisnije, pa se pridružite.

Prvo: brojka o kojoj nitko ne hvali

Istraživači su devet različitih AI usluga, uključujući ChatGPT, pustili da pročitaju nekoliko tisuća stvarnih lažnih poruka. Nijedna od njih nije bila posebno trenirana za taj zadatak. Samo su čitale i davale mišljenje, otprilike kao kad zalijepite sumnjivu poruku i pitate: "Što misliš o ovome?"

Najbolje su otkrile dvije od tri.

Dvije od tri. Pročitajte tu brojku još jednom prije nego vam netko proda AI kao rješenje za prevare u vašoj tvrtki. Tjelohranitelj koji svaki treći put ne vidi prijetnju neće dobiti posao. Neće ni doći na razgovor.

Zatim: brojka koja zapravo nešto znači

Ovdje postaje zanimljivo, jer istraživači su učinili nešto pametnije od pukog brojanja pogodaka.

Suprotstavili su obični AI specijaliziranom programu, kakvi već rade u filterima za e-poštu i sigurnosnim alatima. Takvi programi uče na prevarama koje su se već dogodile i postaju jako dobri upravo u tome. U prvom testu, specijalist je pobijedio, kako se i očekivalo.

Zatim su oba sustava testirali na materijalu koji nijedan od njih prije nije vidio. Nove prevare, novi pristupi.

Specijalist je izgubio gotovo pola svoje učinkovitosti. Obični AI ostao je na istoj razini kao i prije.

I tu je poanta. Običan spam-filter sličan je vrataru s fasciklom starih policijskih fotografija: odličan je u prepoznavanju onih koji su već uhvaćeni, ali potpuno zbunjen kad se pojavi netko novi. AI, pak, stoji i sluša kako ljudi pričaju. Reagira na izmišljenu hitnost, rupe u priči, ton koji vas želi natjerati da preskočite korak koji inače nikad ne biste preskočili.

Lošiji je za stare prevare. Znatno stabilniji za nove. A nove su one koje pogađaju vas, jer prevaranti mijenjaju pristup mnogo češće nego što se filtri uspiju ažurirati.

Još dvije stvari iz istog izvještaja

Ne trebate veliki projekt. Čak i manje i jeftinije usluge postale su primjetno bolje samo zahvaljujući jasnije postavljenom pitanju. Radi se uglavnom o tome kako se zadatak formulira, a ne o tome da se gradi nešto vlastito za milijune.

Istraživači se ne hvale. Izričito pišu da je materijal koji su testirali bio manji i pristraniji nego što su željeli, te da su rezultati varirali ovisno o tome kako je pitanje postavljeno. To je neobično pošteno, i razlog više da im se vjeruje, a ne manje.

Čemu služe dvije od tri

Ne služe za donošenje odluka. Izvrsne su za upozoravanje.

Zato to napravite kao kolegu koji se nakašlje, a ne kao barijeru koja tiho baca stvari u smeće. Filter koji pogrešno procijeni i izbaci pravi mail od klijenta košta vas više nego prevara koju bi trebao zaustaviti. Malo označavanje koje natjera čovjeka da zastane na dvije sekunde gotovo ništa ne košta.

I upravo u tim dvjema sekundama zaustavljaju se prevare. Ne u tehnologiji. U onoj misli: Čekaj malo, jel’ oni obično mijenjaju banku u petak?

Tako smo to napravili s vlastitim pristiglim porukama

Ispitali smo na sebi. To je jedini način da znamo da nešto vrijedi.

Sva pošta na eurowork.ai prolazi kroz istu provjeru, bez obzira je li poslana na hej@, hola@, bonjour@ ili czesc@. Svaka poruka dobiva ocjenu: prava poruka, newsletter, reklama ili prevara. Ocjena je napisana u naslovu kad poruka stigne do nas, uz redak o tome zašto. Zna se što se gleda prije nego se uopće otvori.

Ništa se ne briše. Ništa se ne sortira. Ocjena upozorava, čovjek odlučuje.

Ako je riječ o pravoj poruci, događaju se još dvije stvari.

Prevedena je na hrvatski, i upravo hrvatski se sprema. Original je uvijek ispod prijevoda, tako da se ništa ne može sakriti u tumačenju.

A onaj tko je napisao dobiva odgovor na svom jeziku. Kratka poruka koja kaže da je poruka stigla, pokazuje jednom rečenicom da smo razumjeli o čemu se radi, i obećava da će čovjek pročitati i javiti se. Poruka je označena kao napisana od AI-ja, jer i jest, a EU-ov AI Act zahtijeva da se to navede. Pravi odgovor na pitanje uvijek dolazi od čovjeka.

Newsletteri, reklame i lažne poruke nikad ne dobivaju odgovor. Isto vrijedi i za one adrese koje počinju s "no-reply" i koje nitko ne čita. One dobivaju tišinu, i to je pravi odgovor. Ljubazno automatsko odgovaranje na masovnu poštu u najboljem je slučaju izgubljeno vrijeme, a u najgorem dvije mašine koje se uljudno zahvaljuju jedna drugoj do kraja vremena.

Prevoditelj na vratima, s vratarom pokraj sebe. Sasvim smo zadovoljni time.

Tri stvari za sljedeći sastanak

Ne vjerujte onome tko kaže da AI rješava prevare. Dvije od tri nisu rješenje, nego pomoć.

Ipak uzmite tu pomoć, jer ona drži kad je prevara nova. Upravo tu stare filtre zakažu.

I krenite malo. Moguće je isprobati na jednoj jedinoj pristigloj pošti, s onim što već plaćate, prije nego itko treba donijeti veliko odluku. Mi smo počeli s vlastitom.

I nazovite dobavljača u petak poslijepodne. Oni su zapravo budni.

Izvor

Izvještaj nosi naziv "Measuring and Evaluating the Performance of Generative AI Models for Scam Detection" i objavljen je 19. srpnja 2026. Slobodno je dostupan, a tko želi vidjeti brojke može ih pronaći ovdje: arxiv.org/html/2607.17353v1