Kann KI Betrugsmails stoppen? Ja. Aber nicht annähernd so gut, wie die Schlagzeilen behaupten

Es ist Freitag, zwanzig vor vier. Die Rechnung sieht aus wie immer: gleiche Logos, gleiche Referenz, gleicher trockener Ton wie bei eurem Lieferanten, mit dem ihr seit neun Jahren zusammenarbeitet. Nur die Kontonummer ist neu. Irgendwo steht etwas von einer Bankänderung.

Freitags um zwanzig vor vier ruft niemand an, um nachzufragen.

Genau so läuft es. Betrugsmails kosten europäische Unternehmen jedes Jahr Milliarden, und das Problem ist nicht, dass sie besonders raffiniert wären. Sondern dass sie nie gleich aussehen. Jedes Mal eine neue Masche.

Im Sommer erschien eine Studie, die in den Schlagzeilen verkündete, KI sei jetzt unser digitaler Bodyguard gegen Betrüger. Wir haben sie gelesen. Sie sagt etwas ganz anderes, und das ist viel nützlicher. Also, bleib dran.

Erstens: die Zahl, mit der niemand angibt

Die Forscher ließen neun verschiedene KI-Dienste, darunter ChatGPT, tausende echte Betrugsmails analysieren. Keiner davon war speziell für diese Aufgabe trainiert. Sie sollten einfach lesen und ihre Einschätzung abgeben, so, als würdet ihr eine dubiose Mail kopieren und fragen: „Was hältst du davon?“.

Die besten entdeckten zwei von drei.

Zwei von drei. Lies diese Zahl noch einmal, bevor dir jemand KI als Lösung gegen Betrug andrehen will. Ein Bodyguard, der jedes dritte Mal wegschaut, bekommt den Job nicht. Nicht mal zum Vorstellungsgespräch.

Zweitens: die Zahl, die wirklich zählt

Hier wird es interessant, denn die Forscher gingen einen klügeren Weg, als nur Treffer zu zählen.

Sie stellten die normale KI einem speziell entwickelten Programm gegenüber, der Art, die bereits in E-Mail-Filtern und Sicherheitssoftware steckt. Solche Programme werden mit bekannten Betrugsmails gefüttert und werden darin richtig gut. Im ersten Test gewann der Spezialist, wie erwartet.

Dann zeigten die Forscher beiden Systemen Material, das sie noch nie gesehen hatten: neue Betrugsmaschen, neue Tricks.

Der Spezialist verlor fast die Hälfte seiner Trefferquote. Die normale KI blieb auf demselben Niveau wie zuvor.

Und genau darin liegt der springende Punkt. Ein klassischer Spamfilter ist wie ein Türsteher mit einem Ordner voller alter Polizeifotos: perfekt darin, diejenigen zu erkennen, die schon mal aufgefallen sind. Aber wenn jemand Neues auftaucht, steht er da und weiß nicht weiter. Die KI hingegen hört einfach zu, wie die Leute reden. Sie reagiert auf die erfundene Dringlichkeit, die Lücke in der Geschichte, den Tonfall, der dich dazu bringen will, einen Schritt zu überspringen, den du sonst nie überspringst.

Schlechter bei den alten Tricks. Deutlich stabiler bei den neuen. Und genau die neuen Tricks treffen euch, denn Betrüger wechseln ihre Maschen viel schneller, als Filter aktualisiert werden können.

Zwei weitere Erkenntnisse aus derselben Studie

Ihr braucht kein großes Projekt. Auch die kleineren und günstigeren KI-Dienste wurden deutlich besser, sobald die Frage klarer formuliert wurde. Es kommt also vor allem darauf an, wie die Aufgabe gestellt wird, nicht darauf, für viel Geld etwas Eigenes zu bauen.

Die Forscher geben nicht an. Sie schreiben offen, dass das getestete Material kleiner und unausgewogener war als gewünscht und dass die Ergebnisse je nach Fragestellung schwankten. Das ist ungewöhnlich ehrlich, und ein Grund, ihnen mehr zu vertrauen, nicht weniger.

Wofür zwei von drei gut genug sind

Nicht, um Entscheidungen zu treffen. Aber hervorragend, um aufmerksam zu machen.

Baut sie also wie einen Kollegen ein, der sich räuspert, nicht wie eine Barriere, die still und heimlich Dinge in den Papierkorb wirft. Ein Filter, der sich irrt und eine echte Kundenmail löscht, kostet euch mehr als der Betrug, den er hätte stoppen sollen. Eine kleine Markierung, die einen Menschen für zwei Sekunden innehalten lässt, kostet fast nichts.

Und genau in diesen zwei Sekunden werden Betrugsversuche gestoppt. Nicht durch die Technik. Sondern durch den Gedanken: Moment mal, wechseln die normalerweise freitags die Bank?

So haben wir es mit unserem eigenen Postfach gemacht

Wir haben es selbst ausprobiert. Das ist die einzige Methode, von der wir wissen, dass sie funktioniert.

Alle Mails an eurowork.ai durchlaufen dieselbe Sortierung, egal ob sie an hej@, hola@, bonjour@ oder czesc@ geschickt wurden. Jede Mail bekommt eine Bewertung: echte Mail, Newsletter, Werbung oder Betrugsversuch. Die Bewertung steht in der Betreffzeile, wenn die Mail bei uns ankommt, zusammen mit einer kurzen Begründung. Man weiß also, worum es geht, bevor man die Mail überhaupt öffnet.

Nichts wird gelöscht. Nichts wird aussortiert. Die Bewertung macht aufmerksam, der Mensch entscheidet.

Handelt es sich um eine echte Mail, passieren noch zwei Dinge:

Sie wird ins Schwedische übersetzt, und wir speichern die schwedische Version. Das Original bleibt immer unter der Übersetzung erhalten, damit sich nichts in einer Interpretation verstecken kann.

Und der Absender bekommt eine Antwort in seiner eigenen Sprache. Eine kurze Zeile, die bestätigt, dass die Mail angekommen ist, mit einem Satz, der zeigt, dass wir verstanden haben, worum es geht, und verspricht, dass ein Mensch die Mail liest und sich meldet. Die Zeile ist als KI-generiert gekennzeichnet, denn das ist sie, und die EU-KI-Verordnung verlangt das. Die eigentliche Antwort kommt immer von einem Menschen.

Newsletter, Werbung und Betrugsmails bekommen keine Antwort. Auch nicht die Adressen, die mit „no-reply“ beginnen und die ohnehin niemand liest. Sie bekommen Stille, und das ist die richtige Antwort. Eine freundliche Automatische Antwort auf eine Massenmail ist bestenfalls verschwendete Zeit, schlimmstenfalls zwei Maschinen, die sich höflich bis in alle Ewigkeit bedanken.

Ein Übersetzer an der Tür, mit einem Türsteher daneben. Damit sind wir ganz zufrieden.

Drei Punkte fürs nächste Meeting

Glaub nicht dem, der sagt, KI löse das Betrugsproblem. Zwei von drei ist keine Lösung, sondern eine Hilfe.

Nutze die Hilfe trotzdem, denn sie hält stand, wenn der Betrug neu ist. Genau da versagen die alten Filter.

Und fang klein an. Man kann es mit einem einzigen Postfach ausprobieren, mit dem, was ihr schon bezahlt, bevor irgendjemand eine große Entscheidung treffen muss. Wir haben mit unserem eigenen angefangen.

Und ruf den Lieferanten am Freitagnachmittag an. Die sind wirklich wach.

Die Quelle

Die Studie heißt „Measuring and Evaluating the Performance of Generative AI Models for Scam Detection“ und wurde am 19. Juli 2026 veröffentlicht. Sie ist frei zugänglich, und wer die Zahlen selbst sehen möchte, findet sie hier: arxiv.org/html/2607.17353v1.