Dokáže AI zastavit podvodné e-maily? Ano. Ale zdaleka ne tak dobře, jak tvrdí titulky

Jsou čtyři hodiny a dvacet minut v pátek odpoledne. Faktura vypadá přesně jako všechny ostatní od dodavatele, se kterým spolupracujete už devět let: stejný logo, stejný referenční kód, stejný suchý formulář. Jen číslo účtu je nové. Píše se tam něco o změně banky.

V pátek ve čtyři dvacet nikdo nezvedá telefon, aby to ověřil.

A takhle to chodí. Podvodné e-maily stojí evropské firmy a organizace miliardy ročně. Jejich nebezpečí nespočívá v tom, že by byly geniální. Je to tím, že nikdy nevypadají dvakrát stejně.

Loni v létě vyšla vědecká studie, která v titulcích slibovala, že AI je naše digitální ochranka proti podvodníkům. Přečetli jsme si ji. Tvrdí něco jiného než titulky. A co říká, je navíc mnohem užitečnější. Tak pojďme na to.

Nejprve: číslo, kterým se nikdo nechlubí

Vědci nechali devět různých AI nástrojů, včetně ChatGPT, přečíst několik tisíc skutečných podvodných e-mailů. Žádný z nich nebyl speciálně trénovaný na tento úkol. Prostě jen četly a vyjadřovaly svůj názor, zhruba jako kdybyste vložili podezřelý e-mail a zeptali se: „Co si o tom myslíš?“

Nejlepší z nich odhalily dva ze tří.

Dva ze tří. Přečtěte si to číslo ještě jednou, než vám někdo bude AI prodávat jako řešení podvodů. Osobní strážce, který třikrát zaspí, práci nedostane. Ani na pohovor ho nepozvou.

Pak: číslo, které má skutečně význam

Tady to začíná být zajímavé, protože vědci udělali něco chytřejšího, než jen počítat správné odpovědi.

Postavili běžnou AI proti speciálně vyvinutému programu, jaké už běžně fungují ve filtrech e-mailů a bezpečnostních nástrojích. Tyto programy se učí z již známých podvodů a jsou na ně opravdu dobré. V prvním testu, jak se dalo čekat, vyhrál specialista.

Pak ale vědci ukázali oběma něco, co ještě nikdy neviděly: nové podvody, nové triky.

Specialista ztratil skoro polovinu své přesnosti. Běžná AI zůstala na stejné úrovni jako předtím.

A tady je celý vtip. Běžný spamový filtr je jako vrátný s deskami starých policejních fotek: skvělý na rozpoznání těch, kteří už byli chyceni, ale úplně ztracený, když se objeví někdo nový. AI místo toho poslouchá, jak lidé mluví. Reaguje na falešnou naléhavost, díry v příběhu, tón, který vás má přimět přeskočit krok, který byste normálně nikdy nevynechali.

Horší na staré věci. Mnohem stabilnější na nové. A právě nové věci vás zasáhnou, protože podvodníci mění taktiku mnohem rychleji, než stihnou filtry aktualizovat.

Ještě dvě věci ze stejné zprávy

Nepotřebujete velký projekt. I menší a levnější nástroje se zlepšily, když byla otázka položená jasněji. Jde tedy hlavně o to, jak úkol formulujete, ne o to, abyste za miliony budovali něco vlastního.

Vědci se nechlubí. Přiznávají na rovinu, že materiál, který testovali, byl menší a méně vyvážený, než by si přáli, a že výsledky se lišily podle toho, jak byla otázka položena. To je neobvykle čestné, a je to důvod, proč jim věřit víc, ne méně.

K čemu jsou dva ze tří dobré

K rozhodování ne. K upozorňování ano.

Postavte to proto jako kolegu, který si odkašle, ne jako bariéru, která tiše hází věci do koše. Filtr, který se splete a zahodí skutečný e-mail od zákazníka, vás bude stát víc než podvod, který měl zastavit. Malá značka, která člověka na dvě vteřiny zastaví, nestojí skoro nic.

A právě v těch dvou vteřinách se podvody zastavují. Ne v technologii. V té myšlence: Počkat, mění dodavatel banku v pátek odpoledne?

Takhle jsme to vyzkoušeli na vlastní schránce

Vyzkoušeli jsme to sami na sobě. Je to jediný způsob, jak víme, že tvrzení platí.

Veškerá pošta na eurowork.ai prochází stejným tříděním, ať už je poslána na hej@, hola@, bonjour@ nebo czesc@. Každý e-mail dostane hodnocení: skutečný dopis, newsletter, reklamní e-mail nebo podvod. Hodnocení je uvedeno v předmětu, když e-mail dorazí, spolu s krátkým vysvětlením, proč to tak je. Člověk tak ví, na co se dívá, ještě předtím, než ho otevře.

Nic se nemaže. Nic se nezahazuje. Hodnocení upozorňuje, člověk rozhoduje.

Pokud jde o skutečný dopis, stanou se ještě dvě věci.

Přeloží se do češtiny a uloží se česká verze. Originál je vždy k dispozici pod překladem, takže se nic nemůže ztratit v překladu.

A odesílatel dostane odpověď ve svém jazyce. Krátká zpráva, že e-mail dorazil, s jednou větou, která ukazuje, že jsme pochopili, o co jde, a slibem, že se ozve skutečný člověk. Zpráva je označena jako napsaná AI, protože taky je, a nařízení EU o umělé inteligenci vyžaduje, abychom to uváděli. Samotná odpověď na dotaz ale vždy přijde od člověka.

Newslettery, reklamy a podvody nedostanou žádnou odpověď. Ani ty adresy, které začínají na „no-reply“ a které nikdo nečte. Dostanou ticho, a to je správná odpověď. Zdvořilá automatická odpověď na hromadný e-mail je v lepším případě zbytečná, v horším případě dvě mašiny, které si donekonečna zdvořile děkují.

Překladatel ve dveřích a vrátný vedle něj. Jsme s tím docela spokojení.

Tři věci, které si odnést na příští poradu

Nevěřte tomu, kdo říká, že AI vyřeší podvody. Dva ze tří nejsou řešení, je to pomoc.

Pomoc si ale vezměte, protože funguje, když je podvod nový. A právě tam staré filtry selhávají.

A začněte malé. Můžete to vyzkoušet na jedné schránce, s tím, co už platíte, než bude potřeba udělat jediné velké rozhodnutí. My jsme začali u sebe.

A v pátek odpoledne zavolejte dodavateli. Opravdu jsou vzhůru.

Zdroj

Studie se jmenuje "Measuring and Evaluating the Performance of Generative AI Models for Scam Detection" a byla publikována 19. července 2026. Je volně dostupná a kdo chce vidět čísla na vlastní oči, najde je zde: arxiv.org/html/2607.17353v1.