Grundlagen der Schatten-KI: Alle tun es, niemand spricht darüber

Rickard Eriksson ist der Mann, der 1996 das entwickelte, was später LunarStorm wurde – das erste soziale Medium der Welt, mit Millionen Nutzern lange bevor es Facebook gab. Seitdem haben er und sein Unternehmen die KI-Entwicklung bei über 7.000 skandinavischen Unternehmen und öffentlichen Einrichtungen vorangetrieben und aus nächster Nähe beobachtet, was passiert, wenn die Technik den Regeln voraus ist.

Heute leitet er Skräddarsydd AB in Varberg und ist Gründer von EuroWork. Wir setzten uns zusammen und sprachen darüber, warum er einen KI-Arbeitsplatz für europäische Organisationen aufgebaut hat – und warum er die wichtigste Funktion für diejenige hält, die zeigt, was eine Antwort kostet.

Du sagst, Schatten-KI sei das eigentliche Problem. Was meinst du damit?

— Dass sie bereits genutzt wird. In jedem Unternehmen, das ich besuche, gibt es jemanden, der einen Entwurf in ChatGPT einfügt, um ihn aufzupeppen. Oft sind es sogar mehrere. Sie tun das mit ihrem privaten Login, weil sie das hatten, und sie tun es, weil sie ihre Arbeit schaffen wollen. Das ist kein Ungehorsam, das ist Ehrgeiz.

Das Problem ist, dass niemand weiß, was rausgegangen ist. Und wenn niemand weiß, was rausgegangen ist, kann auch niemand die Frage beantworten, wenn sie kommt.

Wer stellt die Frage?

— Früher oder später jemand anderes als du. Ein Kunde, der wissen will, wo seine Daten geblieben sind. Ein Prüfer. Ein Datenschutzbeauftragter. Oder ein Journalist, wenn man Pech hat. Und dann ist es nicht der Mitarbeiter, der antworten muss, sondern die Führungsebene. Zu sagen „Wir haben eine Richtlinie“ reicht nicht, wenn die Richtlinie ein Dokument ist, das niemand gelesen hat und das nichts verhindert.

Aber die meisten haben doch irgendwelche Regeln?

— Viele haben eine Regel, die Nein sagt. Das ist die schlechteste Variante, denn dann geht die Nutzung einfach weiter – nur unsichtbar. Man hat das Problem von „unhandhabbar“ zu „unhandhabbar und geheim“ verschoben.

Ich habe das deutlich bei einer Stelle gesehen, wo KI komplett verboten war. Alle haben sie trotzdem genutzt. Der Unterschied war nur, dass sie es jetzt auf dem Handy statt auf dem Arbeitsrechner taten, damit es nicht auffällt. Man hatte es damit geschafft, es genauso riskant und gleichzeitig schwerer erkennbar zu machen.

Und Arbeits- und Privatleben vermischen sich?

— Ja, und das ist der Teil, den die Leute unterschätzen. Wenn jemand sein privates Konto nutzt, liegen die Arbeitsunterlagen in einem Konto, das dem Arbeitgeber nicht gehört. Die Person wechselt den Job, und die Unterlagen gehen mit. Die Person verliert ihr Passwort, und niemand kommt mehr an etwas ran. Und in diesem Verlauf liegen sowohl das Angebot für den Kunden als auch die Frage zur Schulwahl des Kindes – in derselben Unterhaltung, bei einem Anbieter auf der anderen Seite des Atlantiks.

Das ist keine böse Absicht von irgendwem. Es ist einfach das, was passiert, wenn man den Leuten kein Werkzeug gibt, das ihr Arbeitswerkzeug ist.

EuroWork ist also die Alternative?

— EuroWork ist ein Versuch, die legale Alternative zu dem zu machen, was am einfachsten ist. Das ist die ganze Idee. Wenn der sichere Weg umständlicher ist als der unsichere, verliert der sichere jedes Mal, in jeder Organisation, egal was der Chef in einer Besprechung gesagt hat.

Was ist konkret das, was es einfacher machen soll?

— Dass es aussieht wie das, was die Leute schon kennen. Man stellt eine Frage, man bekommt eine Antwort. Niemand muss einen Kurs besuchen, um loszulegen. Der Unterschied liegt drumherum: Die Antworten werden standardmäßig in Europa verarbeitet, die Inhalte werden nie zum Trainieren eines Modells genutzt, und es steht unter jeder Antwort, sodass man nicht in einem Vertrag nachschlagen muss.

Und die Kosten?

— Das ist mein persönliches Steckenpferd. Niemand sonst zeigt, was eine Antwort kostet. Man kauft eine Lizenz, und dann herrscht Schweigen, und erst im Folgemonat sieht die Buchhaltung eine Pauschalsumme.

Bei uns steht der Preis, bevor man die Frage abschickt. Eine ausgewogene Antwort von einem europäischen Modell kostet ein paar Cent. Wählt man ein amerikanisches Topmodell, kostet dieselbe Frage fünfundvierzig Cent. Es ist nicht falsch, das Teure zu wählen – manchmal lohnt es sich –, aber man sollte es vorher wissen und nicht erst danach.

Warum liegt dir diese eine Kleinigkeit so sehr am Herzen?

— Weil es die ehrliche Version dessen ist, was man verkauft. Alle behaupten, transparent zu sein. Sehr wenige zeigen eine Zahl, die gegen sie verwendet werden kann. Ich möchte, dass eine Finanzchefin mit unserem Dienst rechnen kann, statt zu raten.

Ihr baut auch einen Agentenmodus. Ist das nicht das Gegenteil von Kontrolle?

— Genau davor hatte ich Angst. Deshalb ist die Standardeinstellung, dass die KI fragt, bevor sie etwas tut. Man gibt ein Ziel vor, sie schlägt einen Plan in Schritten vor, und man genehmigt Schritt für Schritt und sieht, welches Werkzeug verwendet werden soll und warum. Alles landet im Prüfprotokoll.

Ich glaube, dieser Schalter ist der ganze Unterschied zwischen einer Kommune, die Agenten nutzen darf, und einer, die es nicht darf. Die Fähigkeit haben jetzt alle. Was fehlt, ist der Beweis, wer Ja gesagt hat.

Was ist das Schwierigste daran, das hier aufzubauen?

— Es zu lassen. Jede Woche gibt es zehn Dinge, die man zusätzlich bauen könnte, und neun davon machen das Produkt schlechter, weil sie es schwerer verständlich machen. Wer alles hinzufügt, bekommt am Ende etwas, das einen Berater braucht, um loszulegen – und dann hat man genau das gebaut, was man ersetzen wollte.

Was hoffst du, dass jemand in einem Jahr sagt?

— Dass sie aufgehört haben, darüber nachzudenken. Dass die Frage „Darf ich KI dafür nutzen?“ in ihrem Unternehmen nicht mehr gestellt wird, weil die Antwort im Werkzeug sichtbar ist, während man arbeitet. Und dass die Finanzchefin weiß, was es auf den Cent genau gekostet hat.

Letzte Frage: Was soll derjenige, der das hier liest, heute tun?

— Seine Kollegen fragen, was sie eigentlich nutzen. Nicht in einem formellen Rahmen, einfach fragen. Die Antwort ist meist mehr, als man dachte, und es ist immer besser, es selbst zu wissen, als es von jemand anderem zu erfahren.

---

Über Rickard Eriksson

Erschuf 1996 das, was später LunarStorm wurde – das erste soziale Medium der Welt, mit Millionen Nutzern Jahre bevor Facebook startete. Hat gemeinsam mit seinem Unternehmen über 7.000 skandinavische Unternehmen und öffentliche Einrichtungen in der KI-Nutzung geschult und weiterentwickelt. Leitet heute Skräddarsydd AB in Varberg und ist Gründer von EuroWork.

Dasselbe Prinzip damals wie heute: Technik, die normale Menschen tatsächlich nutzen – und sich jeden Morgen darauf freuen, sie zu öffnen. Das Unternehmen hinter LunarStorm hieß LunarWorks. Dieses Projekt heißt EuroWork.

Erreichbar unter rickard@eurowork.ai.