Može li veštačka inteligencija da zaustavi lažna pisma? Da. Ali nikako onoliko dobro koliko naslovi tvrde

Petak je, dvadeset do četiri. Faktura izgleda baš kao i sve ostale fakture od dobavljača s kojim radite već devet godina, isti logo, ista referenca, isti suvoparni stil. Samo je broj računa nov. Piše nešto o promeni banke.

Niko neće zvati da proveri u petak u dvadeset do četiri.

Tako to ide. Lažna pisma godišnje koštaju evropske kompanije milijarde, a ono što ih čini teškim za otkrivanje nije to što su domišljati. Problem je što nikad ne izgledaju isto dva puta.

Ovog leta objavljen je istraživački izveštaj koji je izazvao naslove o tome kako je veštačka inteligencija sada naš digitalni telohranitelj protiv prevaranata. Pročitali smo ga. On kaže nešto sasvim drugo od naslova. Štaviše, ono što kaže mnogo je korisnije, pa prati.

Prvo: brojka o kojoj niko ne hvali

Istraživači su pustili devet različitih AI alata, uključujući ChatGPT, da pročitaju nekoliko hiljada pravih lažnih mejlova. Nijedan od njih nije bio posebno obučen za taj zadatak. Samo su čitali i davali svoje mišljenje, otprilike kao kad zalepite sumnjiv mejl i pitate: „Šta misliš o ovome?".

Najbolji su otkrili dve trećine.

Dve trećine. Pročitajte tu brojku još jednom pre nego što vam neko proda veštačku inteligenciju kao rešenje za prevare u vašoj firmi. Telohranitelj koji propusti svaki treći put neće dobiti posao. Neće ni doći na razgovor.

Zatim: brojka koja zaista nešto znači

Ovde postaje zanimljivo, jer istraživači su uradili nešto pametnije nego što je samo brojanje pogodaka.

Suprotstavili su običnu veštačku inteligenciju specijalno napravljenom programu, kakvi već postoje u filterima za mejlove i sigurnosnim proizvodima. Takvi programi uče na prevarama koje su se već desile i postaju veoma vešti u prepoznavanju baš tih primera. U prvom testu, specijalista je pobedio, kao što se i očekivalo.

Zatim su istraživači pokazali oba sistema materijal koji nijedan od njih ranije nije video. Nove prevare, novi pristupi.

Specijalista je izgubio skoro polovinu svoje sposobnosti. Obična veštačka inteligencija ostala je na istom nivou kao i ranije.

I tu je cela poenta. Običan spam filter je kao vratar s fasciklom starih policijskih fotografija: odličan u prepoznavanju onih koji su već uhvaćeni, ali potpuno zbunjen kad se pojavi neko novi. Veštačka inteligencija, s druge strane, sluša kako ljudi govore. Reaguje na izmišljenu hitnost, rupe u priči, ton koji vas navodi da preskočite korak koji inače nikad ne biste preskočili.

Lošija je za stare prevare. Mnogo pouzdanija za nove. A nove su one koje pogađaju vas, jer prevaranti menjaju pristup mnogo češće nego što filteri stignu da se ažuriraju.

Još dve stvari iz istog izveštaja

Ne treba vam veliki projekat. Čak i manji i jeftiniji alati postali su primetno bolji samo zahvaljujući jasnije postavljenom pitanju. Dakle, sve se svodi na to kako je zadatak formulisam, a ne na to da se gradi nešto novo za milijarde.

Istraživači se ne hvale. Oni otvoreno pišu da je materijal koji su testirali bio manji i pristrasniji nego što su želeli, i da su rezultati varirali u zavisnosti od toga kako je pitanje postavljeno. To je neobično pošteno, i razlog je da im se više veruje, a ne manje.

Čemu služe dve trećine

Ne služe tome da nešto odlučuju. Sjajne su za ukazivanje.

Zato ih napravite kao kolegu koji se nakašlje, a ne kao barijeru koja tiho baca stvari u korpu za otpatke. Filter koji pogreši i izbaci pravi mejl od klijenta koštaće vas više nego prevara koju je trebalo da zaustavi. Mala oznaka koja navede čoveka da zastane na dve sekunde gotovo ništa ne košta.

A upravo u tim dvema sekundama se zaustavljaju prevare. Ne u tehnologiji. U onoj misli: sačekaj malo, da li oni obično menjaju banku u petak?

Tako smo uradili sa svojom poštom

Isprobali smo na sebi. To je jedini način da znamo da li nešto zaista funkcioniše.

Sva pošta na eurowork.ai prolazi kroz istu proveru, bez obzira da li je poslata na hej@, hola@, bonjour@ ili czesc@. Svako pismo dobija ocenu: pravo pismo, bilten, reklama ili prevara. Ocena se vidi u naslovu kada pismo stigne do nas, uz kratko objašnjenje zašto. Znači, znaš šta gledaš pre nego što ga otvoriš.

Ništa se ne briše. Ništa se ne uklanja. Ocena ukazuje, čovek odlučuje.

Ako je u pitanju pravo pismo, dešavaju se još dve stvari.

Prevodi se na srpski, i taj prevod se čuva. Original uvek ostaje ispod prevoda, tako da se ništa ne može sakriti u tumačenju.

A onaj ko je pisao dobija odgovor na svom jeziku. Kratka poruka koja kaže da je pismo stiglo, pokazuje jednom rečenicom da smo razumeli o čemu se radi, i obećava da će čovek pročitati i javiti se. Poruka je označena kao napisana od strane veštačke inteligencije, jer jeste, a EU Uredba o veštačkoj inteligenciji zahteva da se to naglasi. Pravi odgovor na pitanje uvek dolazi od čoveka.

Bilteni, reklame i prevare nikad ne dobijaju odgovor. Isto važi i za one adrese koje počinju sa „no-reply“ i koje niko ne čita. One dobijaju tišinu, i to je pravi odgovor. Ljubazan automatski odgovor na masovnu poštu je u najboljem slučaju gubljenje vremena, a u najgorem, dve mašine koje se učtivo zahvaljuju jedna drugoj do kraja vremena.

Prevodilac na vratima, s vratarom pored sebe. Sasvim smo zadovoljni time.

Tri stvari koje treba poneti na sledeći sastanak

Ne verujte onome ko kaže da veštačka inteligencija rešava prevare. Dve trećine nisu rešenje, to je pomoć.

Ipak, prihvatite pomoć, jer ona drži kad je prevara nova. Upravo tu stari filteri padaju.

I počnite malo. Moguće je isprobati na jednoj jedinoj pošti, sa onim što već plaćate, pre nego što neko mora da donese veliko odluku. Mi smo počeli sa svojom.

I pozovite dobavljača u petak popodne. Oni su zaista budni.

Izvor

Izveštaj se zove „Measuring and Evaluating the Performance of Generative AI Models for Scam Detection“ i objavljen je 19. jula 2026. Slobodno je dostupan, a ko želi da vidi brojeve može ih pronaći ovde: arxiv.org/html/2607.17353v1