Das Kassenbon-Prinzip: KI, die ihre Belege zeigt

Es gibt einen Satz, der in fast jeder KI-Werbung gerade auftaucht: "Vertrauen Sie uns." Das Modell ist sicher, vertrauen Sie uns. Die Daten verlassen Europa nicht, vertrauen Sie uns. Die Kosten sind angemessen, vertrauen Sie uns.

Wir glauben nicht an diesen Satz. Nicht, weil die Anbieter lügen, sondern weil Vertrauen kein Argument ist. Es ist eine Hoffnung. Und ein Unternehmen, das vor einem Vorstand, einem Prüfer oder einer Aufsichtsbehörde Rechenschaft ablegen muss, kann keine Hoffnung vorweisen.

Deshalb bauen wir EuroWork nach einem anderen Prinzip auf, und das ist einfach genug, um auf einen Kassenbon zu passen. Wir nennen es das Kassenbon-Prinzip:

Jedes Mal, wenn die KI etwas für dich erledigt, sollst du sehen können, was passiert ist, wo es passiert ist, was es gekostet hat und wer Ja gesagt hat.

Nicht in einem Jahresbericht. Nicht auf Anfrage. Direkt im Interface, während die Arbeit läuft.

Was das Kassenbon-Prinzip in der Praxis bedeutet

Stell eine Frage in EuroWork und schau unter die Antwort. Dort steht, welches Modell geantwortet hat und warum ausgerechnet dieses, was die Antwort in deiner Währung gekostet hat und wo die Verarbeitung stattfand. Führe eine Tiefgehende Recherche durch, und der Beleg zeigt die Anzahl der Websuchen. Lass den KI-Kollegen eine wiederkehrende Aufgabe erledigen, und jeder Durchlauf hinterlässt seinen Beleg in der Liste: "kostete ein paar Cent". Die Lead-Maschine kennzeichnet jede Kontaktdatenangabe, ob sie tatsächlich in der Quelle steht oder eine Schlussfolgerung ist, denn eine geratene E-Mail-Adresse, die wie erfunden aussieht, ist eine Lüge in Tabellenform.

Dasselbe Prinzip gilt im Großen. Die Eigentümer der Organisation sehen die monatlichen Kosten pro Kategorie und pro Mitglied, setzen Limits in ihrer eigenen Währung, und das Limit bremst echte Kosten, nicht Schätzungen. Was die KI erstellt, ist gemäß Artikel 50 der KI-Verordnung als KI-generiert gekennzeichnet. Und wo jeder Teil der Kette beheimatet ist, bis hin zum Besitzer des Rechenzentrums, wird offen ausgewiesen.

Was das Kassenbon-Prinzip verbietet

Ein Prinzip ist nur etwas wert, wenn es etwas kostet. Unseres verbietet Dinge, die profitabel gewesen wären.

Es verbietet Guthaben und Verbrauchskontingente, denn ein Beleg in einer erfundenen Währung ist kein Beleg. Es verbietet, dass Vorgesetzte sehen, wonach Mitarbeiter die KI fragen: Eigentümer sehen die Anzahl, nie den Inhalt, denn Überwachung ist das Gegenteil der Sicherheit, die Menschen dazu bringt, das Tool tatsächlich zu nutzen. Und es verbietet stilles Lernen: Wenn der KI-Kollege sich etwas merkt, das du gesagt hast, steht die Erinnerungszeile in einer Liste, die du lesen und löschen kannst, sonst nichts.

Warum gerade jetzt

Die KI-Branche bewegt sich in Richtung Agenten: Systeme, die selbstständig arbeiten, nach Plan wiederkehren und unterwegs kleine Entscheidungen treffen. Wir bauen das auch, unser KI-Kollege übernimmt Aufgaben, merkt sich, was dir wichtig ist, und fragt nach, wenn er unsicher ist. Aber je selbstständiger die KI wird, desto wichtiger werden die Belege. Ein Assistent, der falsch antwortet, kostet eine kleine Verärgerung. Ein Agent, der wochenlang stillschweigend falsch arbeitet, kostet das Vertrauen in die ganze Idee.

Wenn dir also jemand einen KI-Dienst zeigt, frag nicht, ob er gut ist. Frag, was die letzte Antwort gekostet hat, wo sie verarbeitet wurde und wie du das deinem Prüfer zeigen würdest. Bekommst du einen Beleg, hast du das Richtige gefunden. Bekommst du ein "Vertrauen Sie uns", weißt du auch Bescheid.