Poate AI-ul opri e-mailurile înșelătoare? Da. Dar nu chiar atât de bine pe cât pretind titlurile

E vineri, douăzeci la patru. Factura arată exact ca toate celelalte facturi de la furnizorul cu care lucrați de nouă ani: același logo, aceeași referință, același ton sec. Doar numărul de cont e nou. Scrie ceva despre schimbarea băncii.

Nimeni nu sună să verifice vineri, la douăzeci la patru.

Așa se întâmplă. E-mailurile înșelătoare costă afacerile europene miliarde în fiecare an, iar ceea ce le face periculoase nu e complexitatea lor. E faptul că nu arată niciodată la fel de două ori.

Vara trecută a apărut un raport de cercetare care a făcut titluri despre cum AI-ul e acum bodyguardul nostru digital împotriva escrocilor. L-am citit. Spune altceva decât titlurile. Și ce spune e mult mai util, așa că rămâneți cu noi.

Mai întâi: cifra de care nimeni nu se laudă

Cercetătorii au pus nouă servicii AI diferite, printre care și ChatGPT, să citească câteva mii de e-mailuri înșelătoare reale. Niciunul nu fusese antrenat special pentru această sarcină. Au citit și și-au spus părerea, cam la fel cum ați face voi dacă lipiți un e-mail dubios și întrebați: „Ce părere ai despre asta?”.

Cele mai bune au detectat două din trei.

Două din trei. Citiți cifra asta încă o dată înainte ca cineva să vă vândă AI-ul ca soluție pentru fraude. Un bodyguard care ratează fiecare a treia amenințare nu primește jobul. Nici măcar nu e chemat la interviu.

Apoi: cifra care contează cu adevărat

Aici devine interesant, pentru că cercetătorii au făcut ceva mai inteligent decât să numere doar rezultatele.

Au pus AI-ul obișnuit față în față cu un program special construit, de genul celor folosite deja în filtrele de e-mail și produsele de securitate. Astfel de programe sunt hrănite cu exemple de fraude deja cunoscute și devin foarte bune la recunoașterea lor. În primul test, specialistul a câștigat, cum era de așteptat.

Apoi, cercetătorii le-au arătat ambelor sisteme un material pe care nu îl văzuseră niciodată. Fraude noi, abordări noi.

Specialistul și-a pierdut aproape jumătate din capacitate. AI-ul obișnuit a rămas la același nivel ca înainte.

Și aici e toată ideea. Un filtru de spam obișnuit e ca un portar cu un dosar plin de poze vechi cu infractori: excelent la recunoașterea celor care au mai fost prinși, dar complet depășit când apare cineva nou. AI-ul, în schimb, stă acolo și ascultă cum vorbesc oamenii. Reacționează la urgența falsă, la golul din poveste, la tonul care vrea să te facă să sari peste un pas pe care nu l-ai sări niciodată altfel.

Mai slab la vechi. Mult mai stabil la nou. Și noul e cel care vă afectează, pentru că escrocii schimbă abordările mult mai des decât filtrele apucă să se actualizeze.

Încă două lucruri, din același raport

Nu aveți nevoie de un proiect mare. Chiar și serviciile mai mici și mai ieftine au devenit vizibil mai bune doar prin formularea mai clară a întrebării. Așadar, e vorba mai mult despre cum e formulată sarcina, nu despre construirea de la zero a ceva care costă milioane.

Cercetătorii nu exagerează. Ei scriu direct că materialul testat a fost mai mic și mai puțin reprezentativ decât și-ar fi dorit, și că rezultatele au variat în funcție de cum a fost pusă întrebarea. E neobișnuit de onest, și e un motiv să avem mai multă încredere în ei, nu mai puțin.

La ce folosesc două din trei

Nu la luarea deciziilor. Sunt excelente pentru a atrage atenția.

Construiți-l deci ca pe un coleg care își drege vocea, nu ca pe o barieră care aruncă tăcut lucrurile la coș. Un filtru care ghicește greșit și aruncă un e-mail legitim de la un client vă costă mai mult decât frauda pe care ar fi oprit-o. O mică marcaj care face un om să se oprească două secunde costă aproape nimic.

Și în acele două secunde sunt oprite fraudele. Nu în tehnologie. În gândul acela: stai puțin, ei obișnuiesc să schimbe banca vineri?

Cum am făcut noi cu propria noastră cutie poștală

Am încercat pe noi înșine. E singura modalitate prin care știm că o afirmație se susține.

Toate e-mailurile trimise la eurowork.ai trec prin aceeași sortare, indiferent dacă au fost trimise la hej@, hola@, bonjour@ sau czesc@. Fiecare mesaj primește o evaluare: e-mail legitim, newsletter, reclamă sau fraudă. Evaluarea apare în subiect când ajunge la noi, împreună cu o linie care explică de ce. Știi ce citești înainte să deschizi mesajul.

Nimic nu e șters. Nimic nu e mutat. Evaluarea atrage atenția, omul decide.

Dacă e un e-mail legitim, se întâmplă încă două lucruri.

Este tradus în suedeză, și varianta în suedeză e cea pe care o păstrăm. Originalul rămâne mereu sub traducere, astfel încât nimic să nu se piardă în interpretare.

Iar persoana care a scris primește un răspuns în propria limbă. O scurtă replică care spune că mesajul a ajuns, arată cu o propoziție că am înțeles despre ce e vorba și promite că un om va citi și va răspunde. Replica e marcată ca fiind scrisă de AI, pentru că așa și este, iar Regulamentul UE privind AI cere să spunem asta. Răspunsul propriu-zis vine mereu de la un om.

Newslettere, reclame și fraude nu primesc niciun răspuns. Nici adresele care încep cu „no-reply” și pe care nimeni nu le citește. Ele primesc tăcere, și asta e răspunsul corect. Un răspuns automat politicos la un e-mail în masă e, în cel mai bun caz, o pierdere de timp, iar în cel mai rău, două mașini care se mulțumesc politicoase una pe cealaltă la nesfârșit.

Un traducător la ușă, cu un portar lângă el. Suntem destul de mulțumiți de asta.

Trei lucruri de reținut pentru următoarea întâlnire

Nu credeți pe cel care spune că AI-ul rezolvă fraudele. Două din trei nu e o soluție, e un ajutor.

Acceptați ajutorul, pentru că funcționează când frauda e nouă. Exact acolo unde filtrele vechi dau greș.

Și începeți cu ceva mic. Se poate testa pe o singură cutie poștală, cu ce plătiți deja, înainte ca cineva să ia vreo decizie mare. Noi am început cu a noastră.

Și sunați furnizorul vineri după-amiază. Chiar sunt treji.

Sursa

Raportul se numește „Measuring and Evaluating the Performance of Generative AI Models for Scam Detection” și a fost publicat pe 19 iulie 2026. E disponibil gratuit, iar cine vrea să vadă cifrele poate găsi totul aici: arxiv.org/html/2607.17353v1