Schatten-KI: Alle tun es, niemand spricht darüber

Rickard Eriksson ist der Mann, der 1996 das aufbaute, was später LunarStorm wurde – das erste soziale Medium der Welt, mit Millionen Nutzern lange bevor es Facebook gab. Seitdem haben er und sein Unternehmen die KI-Entwicklung bei über 7.000 skandinavischen Unternehmen und öffentlichen Einrichtungen vorangetrieben und aus nächster Nähe beobachtet, was passiert, wenn die Technik den Regeln voraus ist.

Heute leitet er Skräddarsydd AB in Varberg und ist der Gründer von EuroWork. Wir haben uns zusammengesetzt, um darüber zu sprechen, warum er einen KI-Arbeitsplatz für europäische Organisationen geschaffen hat – und warum er die wichtigste Funktion für diejenige hält, die zeigt, was eine Antwort kostet.

Sie sagen, Schatten-KI sei das eigentliche Problem. Was meinen Sie damit?

— Dass sie bereits genutzt wird. In jedem Unternehmen, das ich besuche, gibt es jemanden, der einen Entwurf in ChatGPT einfügt, um ihn zu verbessern. Oft sind es sogar mehrere. Sie tun das mit ihrem privaten Account, weil sie keinen anderen haben, und sie tun es, weil sie ihre Arbeit schaffen wollen. Das ist kein Ungehorsam, das ist Ehrgeiz.

Das Problem ist, dass niemand weiß, was rausgegangen ist. Und wenn niemand weiß, was rausgegangen ist, kann auch niemand die Frage beantworten, wenn sie kommt.

Wer stellt die Frage?

— Früher oder später jemand anderes als Sie. Ein Kunde, der wissen will, wo seine Daten geblieben sind. Ein Prüfer. Ein Datenschutzbeauftragter. Oder – wenn man Pech hat – ein Journalist. Und dann ist es nicht der Mitarbeiter, der antworten muss, sondern die Führungsebene. Zu sagen „Wir haben eine Richtlinie“ reicht nicht, wenn diese Richtlinie ein Dokument ist, das niemand gelesen hat und das nichts verhindert.

Aber die meisten haben doch irgendwelche Regeln?

— Viele haben eine Regel, die Nein sagt. Das ist die schlechteste Variante, denn dann geht die Nutzung einfach weiter – nur unsichtbar. Man hat das Problem nicht mehr unkontrolliert, sondern unkontrolliert und geheim.

Ich habe das deutlich bei einer Organisation gesehen, die KI komplett verboten hatte. Alle nutzten sie trotzdem. Der Unterschied war nur, dass sie es jetzt auf dem Handy statt auf dem Dienstrechner taten, damit es nicht auffiel. Man hatte es damit geschafft, es genauso riskant und gleichzeitig schwerer erkennbar zu machen.

Und Berufs- und Privatleben vermischen sich?

— Ja, und das ist der Teil, den die Leute unterschätzen. Wenn jemand seinen privaten Account nutzt, liegen die Arbeitsunterlagen in einem Konto, das dem Arbeitgeber nicht gehört. Die Person wechselt den Job, und die Unterlagen gehen mit. Die Person verliert ihr Passwort, und niemand kommt mehr an etwas ran. Und in diesem Verlauf liegen sowohl das Angebot für den Kunden als auch die Frage nach der Schulwahl des Kindes – in ein und demselben Chatverlauf, bei einem Anbieter auf der anderen Seite des Atlantiks.

Das ist keine böse Absicht. Es ist einfach das, was passiert, wenn man den Leuten kein Werkzeug gibt, das ihr Arbeitswerkzeug ist.

EuroWork ist also die Alternative?

— EuroWork ist der Versuch, die legale Alternative zu der zu machen, die am einfachsten ist. Das ist die ganze Idee. Wenn der sichere Weg umständlicher ist als der unsichere, verliert der sichere jeden Kampf, in jeder Organisation, egal was der Chef in einer Besprechung gesagt hat.

Was ist konkret das, was es einfacher machen soll?

— Dass es aussieht wie das, was die Leute schon kennen. Man stellt eine Frage, man bekommt eine Antwort. Niemand muss einen Kurs besuchen, um loszulegen. Der Unterschied liegt drumherum: Die Antworten werden standardmäßig in Europa verarbeitet, die Inhalte werden nie zum Trainieren eines Modells verwendet, und unter jeder Antwort steht es, damit man nicht in einem Vertrag danach suchen muss.

Und die Kosten?

— Das ist mein persönliches Steckenpferd. Kein anderer zeigt, was eine Antwort kostet. Man kauft eine Lizenz, und dann herrscht Schweigen, bis die Buchhaltung einen Monat später eine Pauschalsumme sieht.

Bei uns steht der Preis, bevor man die Frage abschickt. Eine ausgewogene Antwort von einem europäischen Modell kostet ein paar Cent. Wählt man ein amerikanisches Topmodell, kostet dieselbe Frage vierzig Cent. Es ist nicht falsch, das Teure zu wählen – manchmal lohnt es sich –, aber man sollte es vorher wissen und nicht erst danach.

Warum liegt Ihnen diese eine Kleinigkeit so sehr am Herzen?

— Weil es die ehrliche Version dessen ist, was man verkauft. Alle behaupten, transparent zu sein. Sehr wenige zeigen eine Zahl, die gegen sie verwendet werden kann. Ich will, dass eine Finanzchefin mit unserem Tool rechnen kann, statt zu raten.

Sie bauen auch einen Agenten-Modus. Ist das nicht das Gegenteil von Kontrolle?

— Genau davor hatte ich Angst. Deshalb ist die Standardeinstellung, dass die KI fragt, bevor sie etwas tut. Man gibt ein Ziel vor, sie schlägt einen Plan in Schritten vor, und man genehmigt Schritt für Schritt und sieht, welches Werkzeug warum eingesetzt werden soll. Alles landet im Prüfprotokoll.

Ich glaube, dieser Schalter ist der ganze Unterschied zwischen einer Kommune, die Agenten nutzen darf, und einer, die es nicht darf. Die Fähigkeit haben jetzt alle. Was fehlt, ist der Nachweis, wer Ja gesagt hat.

Was ist das Schwierigste daran, das hier zu bauen?

— Es sein zu lassen. Jede Woche gibt es zehn Dinge, die man zusätzlich bauen könnte, und neun davon machen das Produkt schlechter, weil sie es schwerer verständlich machen. Wer alles hinzufügt, bekommt am Ende etwas, für das man einen Berater braucht, um loszulegen – und dann hat man genau das gebaut, was man ersetzen wollte.

Was hoffen Sie, dass jemand in einem Jahr sagt?

— Dass sie aufgehört haben, darüber nachzudenken. Dass die Frage „Darf ich KI dafür nutzen?“ in ihrem Unternehmen nicht mehr gestellt wird, weil die Antwort im Tool sichtbar ist, während man arbeitet. Und dass die Finanzchefin auf den Cent genau weiß, was es gekostet hat.

Geben Sie mir etwas Konkretes. Was machen die Leute damit, an einem ganz normalen Dienstag?

— Das Lustigste ist, dass die Antwort selten das ist, was man denkt. Alle tippen auf „Texte schreiben“. Was tatsächlich am meisten Zeit spart, ist das Lesen zu vermeiden. Man bekommt einen dreihundertseitigen Geschäftsbericht, sagt, wer man ist, und bekommt zurück, was genau für die eigene Rolle relevant ist. Oder eine Ausschreibungsanfrage: Man hängt sie zusammen mit dem an, was man bisher geliefert hat, und fragt direkt, ob es drei Tage Arbeit wert ist. Wir haben das mit einem Unterlagenpaket ausprobiert, das absichtlich zwei Muss-Kriterien nicht erfüllte – und die Antwort hat genau diese beiden Punkte benannt.

— Dann haben wir den Vertragsfall. Zwei Versionen desselben Kaufvertrags, bei dem die Gegenseite einen Nebensatz zum Personalverantwortung gestrichen und die Garantiezeit verkürzt hat. Beide Änderungen wurden erkannt. Solche Anpassungen übersieht man leicht, wenn man abends um sieben noch einmal durchliest.

Und das mit dem Fotografieren?

— Das ist die Funktion, über die die Leute zuerst lachen und die sie dann am meisten nutzen. Fotografieren Sie das Whiteboard nach dem Meeting und bitten Sie um einen Projektplan mit Verantwortlichen. Fotografieren Sie ein handschriftliches Dokument von 1897 und lassen Sie es mit den unsicheren Wörtern markiert übersetzen. Fotografieren Sie eine Anleitung auf Finnisch. Das klingt wie ein Spielzeug, bis man in einem Lagerraum steht und ein Gerät in der Hand hält, dessen Namen man nicht kennt – und deshalb nicht danach suchen kann.

Was ist die häufigste Enttäuschung?

— Dass Leute nach Zahlen fragen, ohne Material zu liefern. Dann erfindet das Modell eine Quelle, die absolut glaubwürdig klingt. Wir haben mal darum gebeten, Gegenargumente zu einem Debattenartikel zu liefern – und die Antwort baute auf einem Bericht auf, der gar nicht existiert. Die Argumentation war brauchbar, die Zahlen waren erfunden.

— Deshalb sage ich immer dasselbe: Geben Sie der KI ein Dokument. Mit Material stimmen die Zahlen. Ohne Material ist es eine gut formulierte Vermutung. Das ist keine Schwäche von EuroWork, das gilt für alle KI – aber wir sind verpflichtet, es laut zu sagen, statt die Leute auf einer Ausschusssitzung damit konfrontieren zu lassen.

Letzte Frage: Was soll derjenige, der das hier liest, heute tun?

— Fragen Sie Ihre Kollegen, was sie tatsächlich nutzen. Nicht in einem formellen Rahmen, einfach fragen. Die Antwort ist meist mehr, als man denkt – und es ist immer besser, es selbst zu wissen, als es von jemand anderem zu erfahren.

---

Über Rickard Eriksson

Erschuf 1996 das, was später LunarStorm wurde – das erste soziale Medium der Welt, mit Millionen Nutzern Jahre bevor Facebook startete. Hat gemeinsam mit seinem Unternehmen über 7.000 skandinavische Unternehmen und öffentliche Einrichtungen in der KI-Nutzung geschult und weiterentwickelt. Leitet heute Skräddarsydd AB in Varberg und ist Gründer von EuroWork.

Dasselbe Prinzip damals wie heute: Technik, die normale Menschen tatsächlich nutzen – und sich jeden Morgen darauf freuen, sie zu öffnen. Das Unternehmen hinter LunarStorm hieß LunarWorks. Dieses Projekt heißt EuroWork.

Erreichbar unter rickard@eurowork.ai.