Pot l'IA aturar els correus fraudulents? Sí. Però no tan bé com diuen els titulars

Són les quatre menys vint d'un divendres. La factura sembla exactament com totes les altres de la mateixa empresa proveïdora que porteu nou anys utilitzant: mateix logotip, mateixa referència, mateix to sec. Només el número de compte és nou. Hi diu alguna cosa sobre un canvi de banc.

Ningú truca per comprovar-ho un divendres a les quatre menys vint.

Així és com passa. Els correus fraudulents costen milers de milions a l'any a les empreses europees, i el que els fa difícils no és que siguin enginyosos. És que mai no es repeteixen igual.

Aquest estiu va sortir un informe d'investigació que va generar titulars sobre com l'IA és ara el nostre guardaespatlles digital contra els estafadors. El vam llegir. Diu una cosa diferent dels titulars. I el que diu és, a més, molt més útil. Acompanya'm.

Primer: la xifra de la qual ningú es vanta

Els investigadors van fer llegir milers de fraus reals a nou serveis d'IA diferents, entre ells ChatGPT. Cap d'ells s'havia entrenat específicament per a aquesta tasca. Simplement llegien i deien què en pensaven, més o menys com si enganxéssiu un correu sospitós i preguntéssiu "què en penses?".

Els millors en van detectar dos de cada tres.

Dos de cada tres. Rellegeix aquesta xifra abans que algú us vengui l'IA com la solució contra els fraus a la vostra empresa. Un guardaespatlles que s'equivoqui un de cada tres cops no aconsegueix la feina. Ni tan sols l'entrevista.

Després: la xifra que realment importa

Aquí és on es posa interessant, perquè els investigadors van fer una cosa més intel·ligent que simplement comptar encerts.

Van enfrontar la IA convencional amb un programa especialitzat, d'aquells que ja s'utilitzen en filtres de correu i productes de seguretat. Aquests programes s'alimenten de fraus que ja han passat i es tornen molt precisos amb ells. En la primera prova, com era d'esperar, va guanyar l'especialista.

Després, els investigadors van mostrar a tots dos un material que cap dels dos havia vist abans. Nous fraus, noves estratègies.

L'especialista va perdre gairebé la meitat de la seva eficàcia. La IA convencional es va mantenir al mateix nivell que abans.

I aquí teniu el quid de la qüestió. Un filtre de correu no deseat és com un porter amb un àlbum de fotos policials velles: excel·lent per reconèixer els que ja han caigut, però perdut quan apareix una cara nova. La IA, en canvi, es queda allà escoltant com parla la gent. Reacciona a la urgència inventada, al forat en la història, al to que vol fer-te saltar un pas que normalment no saltaries.

Pitjor amb el que ja coneix. Molt més estable amb el que és nou. I és el nou el que us afecta, perquè els estafadors canvien d'estratègia molt més ràpid del que els filtres es poden actualitzar.

Dues coses més, del mateix informe

No necessiteu un gran projecte. Fins i tot els serveis més petits i econòmics van millorar notablement només amb una pregunta més clara. Es tracta, doncs, més de com es formula la tasca que de construir alguna cosa pròpia per milions.

Els investigadors no es vanen. Escriuen clarament que el material que van provar era més petit i menys representatiu del que haurien volgut, i que els resultats variaven segons com es formulava la pregunta. És un gest poc comú d'honestedat, i és un motiu per confiar més en ells, no menys.

Per a què serveixen dos de cada tres

No per prendre decisions. Sí per assenyalar.

Construïu-ho, doncs, com un company que es rasca la gola, mai com una barrera que silenciosament llença coses a la paperera. Un filtre que s'equivoqui i esborri un correu legítim d'un client us costarà més que el frau que hauria d'haver aturat. Una petita marca que faci que una persona s'aturi dos segons no costa gairebé res.

I és en aquests dos segons on s'aturen els fraus. No en la tecnologia. En aquell pensament: espera, normalment canvien de banc un divendres?

Així ho vam fer amb la nostra pròpia safata d'entrada

Ho vam provar nosaltres mateixos. És l'única manera que tenim de saber si una afirmació es manté.

Tots els correus que arriben a eurowork.ai passen pel mateix filtre, ja siguin enviats a hej@, hola@, bonjour@ o czesc@. Cada missatge rep una avaluació: correu legítim, butlletí, publicitat o frau. Aquesta avaluació apareix a l'assumpte quan ens arriba, amb una línia que explica per què. Així ja saps què estàs a punt d'obrir abans de fer-ho.

No s'esborra res. No es descarta res. L'avaluació assenyala, la persona decideix.

Si és un correu legítim, passen dues coses més.

Es tradueix al suec, i és la versió en suec la que guardem. L'original sempre queda sota la traducció, de manera que res no pot amagar-se en una interpretació.

I qui ha escrit rep una resposta en el seu propi idioma. Una línia curta que diu que el correu ha arribat, mostra amb una frase que hem entès de què es tracta i promet que una persona el llegirà i respondrà. Aquesta línia està marcada com escrita per IA, perquè ho és, i el Reglament d'IA de la UE exigeix que es digui. La resposta real sempre ve d'una persona.

Els butlletins, la publicitat i els fraus no reben mai resposta. Tampoc aquelles adreces que comencen amb "no-reply" i que ningú llegeix. Reben silenci, i és la resposta correcta. Una resposta automàtica amable a un enviament massiu és, en el millor dels casos, una pèrdua de temps i, en el pitjor, dues màquines que es donen les gràcies educadament fins a l'infinit.

Un traductor a la porta, amb un porter al costat. Estem força contents amb això.

Tres coses per portar a la propera reunió

No us cregueu qui digui que l'IA resol els fraus. Dos de cada tres no és una solució, és una ajuda.

Aprofiteu aquesta ajuda, perquè funciona quan el frau és nou. És justament on fallen els filtres antics.

I comenceu petit. Es pot provar amb una sola safata d'entrada, amb el que ja pagueu, abans que algú hagi de prendre una gran decisió. Nosaltres vam començar amb la nostra.

I truca al proveïdor un divendres a la tarda. De fet, estan desperts.

La font

L'informe es titula "Measuring and Evaluating the Performance of Generative AI Models for Scam Detection" i es va publicar el 19 de juliol de 2026. És de lliure accés, i qui vulgui veure les xifres pot trobar-les aquí: arxiv.org/html/2607.17353v1