Može li AI zaustaviti lažna pisma? Da. Ali ne onako dobro kako naslovi tvrde

Petak je, dvadeset do četiri. Faktura izgleda baš kao i sve ostale fakture od dobavljača s kojim radite već devet godina, isti logo, ista referenca, isti suvoparni stil. Samo je broj računa nov. Piše nešto o promjeni banke.

Niko neće zvati da provjeri u petak u dvadeset do četiri.

Tako to ide. Lažna pisma godišnje koštaju evropske firme milijarde, a ono što ih čini teškim za otkrivanje nije to što su domišljati. Problem je što nikad ne izgledaju isto dva puta.

Ovog ljeta izašao je istraživački izvještaj koji je dobio naslove da je AI sada naš digitalni telohranitelj protiv prevaranata. Pročitali smo ga. On kaže nešto sasvim drugo od naslova. A ono što kaže mnogo je korisnije, pa pratite.

Prvo: brojka o kojoj niko ne hvali

Istraživači su pustili devet različitih AI usluga, među njima i ChatGPT, da pročitaju nekoliko hiljada pravih prevara. Nijedna nije bila posebno obučena za taj zadatak. Samo su čitale i davale svoje mišljenje, otprilike kao kad zalijepite sumnjivi mejl i pitate: „Šta misliš o ovome?".

Najbolje su otkrile dva od tri.

Dva od tri. Pročitajte tu brojku još jednom prije nego vam neko proda AI kao rješenje za prevare u vašoj firmi. Telohranitelj koji svaki treći put ne vidi ništa neće dobiti posao. Neće ni doći na razgovor.

Zatim: brojka koja zapravo nešto znači

Ovdje postaje zanimljivo, jer istraživači su uradili nešto pametnije nego samo brojati pogotke.

Suprotstavili su običan AI specijalno napravljenom programu, kakvi već rade u filterima za mejlove i sigurnosnim proizvodima. Takvi programi uče na prevarama koje su se već desile i postanu jako dobri upravo u tome. U prvom testu je specijalista pobijedio, kako se i očekivalo.

Zatim su istraživači pokazali oboma materijal koji nijedan od njih ranije nije vidio. Nove prevare, novi pristupi.

Specijalista je izgubio skoro pola svoje sposobnosti. Običan AI ostao je na istoj razini kao i prije.

I tu je poenta. Običan spam filter je kao vratar s fasciklom starih policijskih fotografija: odličan u prepoznavanju onih koji su već uhvaćeni, potpuno izgubljen kad se pojavi neko novi. AI umjesto toga stoji i sluša kako ljudi pričaju. Reagira na izmišljenu hitnost, rupu u priči, ton koji vas želi navesti da preskočite korak koji inače nikad ne biste preskočili.

Lošiji je za stare prevare. Mnogo stabilniji za nove. A nove su one koje pogađaju vas, jer prevaranti mijenjaju pristup mnogo češće nego što se filtri uspiju ažurirati.

Još dvije stvari iz istog izvještaja

Ne treba vam veliki projekat. Čak i manje i jeftinije usluge postale su primjetno bolje samo kad je pitanje postavljeno jasnije. Radi se uglavnom o tome kako se zadatak formuliše, a ne o tome da se nešto gradi za milijarde.

Istraživači se ne hvale. Oni otvoreno pišu da je materijal koji su testirali bio manji i pristraniji nego što su željeli, i da su rezultati varirali u zavisnosti od toga kako je pitanje postavljeno. To je neobično pošteno, i razlog je da im se više vjeruje, a ne manje.

Čemu služe ta dva od tri

Ne služe tome da nešto odlučuju. Sjajno služe tome da nešto istaknu.

Zato to napravite kao kolegu koji se nakašlje, a ne kao barijeru koja tiho baca stvari u kantu za smeće. Filter koji pogreši i izbaci pravi mejl od klijenta košta vas više nego prevara koju bi trebao zaustaviti. Mala oznaka koja natjera čovjeka da zastane na dvije sekunde gotovo ništa ne košta.

A upravo u tim dvjema sekundama se zaustavljaju prevare. Ne u tehnologiji. U onoj misli: sačekaj malo, da li oni obično mijenjaju banku u petak?

Tako smo uradili sa svojom poštom

Ispitali smo na sebi. To je jedini način da znamo da li neka tvrdnja vrijedi.

Sva pošta na eurowork.ai prolazi kroz istu sortirku, bez obzira da li je poslana na hej@, hola@, bonjour@ ili czesc@. Svako pismo dobija ocjenu: pravo pismo, newsletter, reklama ili prevara. Ocjena stoji u naslovu kad pismo stigne do nas, uz redak o tome zašto. Zna se šta se gleda prije nego se uopšte otvori.

Ništa se ne briše. Ništa se ne sortira. Ocjena ukazuje, čovjek odlučuje.

Ako je pravo pismo, dešavaju se još dvije stvari.

Prevedeno je na bosanski, i taj bosanski prevod se čuva. Original uvijek ostaje ispod prevoda, tako da se ništa ne može sakriti u tumačenju.

A onaj ko je napisao dobija odgovor na svom jeziku. Kratak redak koji kaže da je pismo stiglo, pokazuje jednom rečenicom da smo razumjeli o čemu se radi, i obećava da će čovjek pročitati i javiti se. Redak je označen kao napisan od AI-ja, jer i jeste, a EU-ov Zakon o umjetnoj inteligenciji zahtijeva da se to kaže. Pravi odgovor na pitanje uvijek dolazi od čovjeka.

Newsletteri, reklame i prevare nikad ne dobijaju odgovor. Niti one adrese koje počinju sa „no-reply“ i koje niko ne čita. One dobijaju tišinu, i to je pravi odgovor. Ljubazan automatski odgovor na masovnu poštu u najboljem slučaju je izgubljeno vrijeme, u najgorem slučaju dvije mašine koje se ljubazno zahvaljuju jedna drugoj do kraja vremena.

Prevodilac na vratima, s vratarom pored sebe. Mi smo prilično zadovoljni time.

Tri stvari koje ponijeti na sljedeći sastanak

Ne vjerujte onome ko kaže da AI rješava prevare. Dva od tri nisu rješenje, to je pomoć.

Prihvatite pomoć, jer ona vrijedi kad je prevara nova. Upravo tu stari filteri otkazuju.

I krenite malo. Može se isprobati na jednoj jedinoj pošti, sa onim što već plaćate, prije nego neko mora donijeti veliko odlučivanje. Mi smo počeli sa svojom.

I pozovite dobavljača u petak popodne. Oni su stvarno budni.

Izvor

Izvještaj se zove „Measuring and Evaluating the Performance of Generative AI Models for Scam Detection“ i objavljen je 19. jula 2026. Slobodno je za čitanje, a onaj ko želi vidjeti brojke može ih pronaći ovdje: arxiv.org/html/2607.17353v1