das grundproblem schatten-ki: alle machen es, keiner spricht darüber

Rickard Eriksson ist der Mann, der 1996 das entwickelte, was später LunarStorm wurde – das erste soziale Netzwerk der Welt, mit Millionen Nutzern lange bevor es Facebook gab. Seitdem haben er und sein Unternehmen die KI-Entwicklung bei über 7.000 skandinavischen Unternehmen und öffentlichen Einrichtungen vorangetrieben. Dabei hat er aus nächster Nähe beobachtet, was passiert, wenn die Technik den Regeln voraus ist.

Heute leitet er sein Bildungsunternehmen in Varberg und ist der Gründer von EuroWork. Wir haben uns zusammengesetzt, um darüber zu sprechen, warum er einen KI-Arbeitsplatz für europäische Organisationen geschaffen hat – und warum er die wichtigste Funktion darin sieht, dass sie zeigt, was eine Antwort kostet.

Du sagst, Schatten-KI ist das eigentliche Problem. Was meinst du damit?

— Dass sie schon genutzt wird. In jedem Unternehmen, das ich besuche, gibt es jemanden, der einen Entwurf in ChatGPT kopiert, um ihn aufzupeppen. Oft sind es sogar mehrere. Sie machen das mit ihrem privaten Login, weil sie das hatten, und sie machen es, weil sie ihre Arbeit schaffen wollen. Das ist kein Ungehorsam, das ist Ehrgeiz.

Das Problem ist, dass niemand weiß, was rausgegangen ist. Und wenn niemand weiß, was rausgegangen ist, kann auch niemand die Frage beantworten, wenn sie kommt.

Wer stellt die Frage?

— Früher oder später jemand anderes als du. Ein Kunde, der wissen will, wo seine Daten geblieben sind. Ein Prüfer. Ein Datenschutzbeauftragter. Oder ein Journalist, wenn man Pech hat. Und dann ist es nicht der Mitarbeiter, der antworten muss, sondern die Führungsebene. Zu sagen „wir haben eine Richtlinie“ reicht nicht, wenn die Richtlinie ein Dokument ist, das niemand gelesen hat und das nichts verhindert.

Aber die meisten haben doch irgendwelche Regeln, oder?

— Viele haben eine Regel, die Nein sagt. Das ist die schlechteste Variante, denn dann geht die Nutzung einfach weiter – nur unsichtbar. Man hat das Problem nicht mehr unkontrolliert, sondern unkontrolliert und geheim.

Ich habe das deutlich bei einer Stelle gesehen, wo KI komplett verboten war. Alle haben sie trotzdem genutzt. Der Unterschied war nur, dass sie es jetzt auf dem Handy gemacht haben statt auf dem Arbeitsrechner, damit es nicht auffällt. Man hatte es damit geschafft, es genauso riskant zu machen und gleichzeitig schwerer erkennbar.

Und Arbeits- und Privatleben vermischen sich?

— Ja, und das ist der Teil, den die Leute unterschätzen. Wenn jemand sein privates Konto nutzt, liegen die Arbeitsunterlagen in einem Konto, das dem Arbeitgeber nicht gehört. Die Person wechselt den Job, und die Unterlagen gehen mit. Die Person verliert ihr Passwort, und niemand kommt mehr an etwas ran. Und in diesem Verlauf liegen sowohl das Angebot für den Kunden als auch die Frage nach der Schulwahl des Kindes – in ein und demselben Chat, bei einem Anbieter auf der anderen Seite des Atlantiks.

Das ist keine böse Absicht von irgendwem. Es ist einfach das, was passiert, wenn man den Leuten kein Werkzeug gibt, das ihr Arbeitswerkzeug ist.

EuroWork ist also die Alternative?

— EuroWork ist der Versuch, die legale Alternative zu der zu machen, die am einfachsten ist. Das ist die ganze Idee. Wenn der sichere Weg umständlicher ist als der unsichere, verliert der sichere jedes Mal, in jeder Organisation, egal was der Chef in einer Besprechung gesagt hat.

Was ist konkret das, was es einfacher machen soll?

— Dass es aussieht wie das, was die Leute schon kennen. Man schreibt eine Frage, man bekommt eine Antwort. Niemand muss einen Kurs machen, um loszulegen. Der Unterschied liegt drumherum: Die Antworten werden standardmäßig in Europa verarbeitet, die Inhalte werden nie genutzt, um ein Modell zu trainieren, und es steht unter jeder Antwort, damit man nicht in einem Vertrag nachschlagen muss.

Und die Kosten?

— Das ist mein persönliches Steckenpferd. Kein anderer zeigt, was eine Antwort kostet. Man kauft eine Lizenz, und dann ist es still – erst am Monatsende sieht die Buchhaltung eine Pauschalsumme.

Bei uns steht der Preis, bevor du die Frage abschickst. Eine ausgewogene Antwort von einem europäischen Modell kostet ein paar Cent. Wählst du ein amerikanisches Topmodell, kostet dieselbe Frage vierundvierzig Cent. Es ist nicht falsch, das Teure zu wählen – manchmal lohnt es sich – aber du sollst es vorher wissen und nicht nachher.

Warum liegt dir diese eine Kleinigkeit so am Herzen?

— Weil es die ehrliche Version dessen ist, was man verkauft. Alle sagen, sie seien transparent. Sehr wenige zeigen eine Zahl, die gegen sie verwendet werden kann. Ich will, dass eine Finanzchefin mit unserem Tool rechnen kann, nicht raten muss.

Ihr baut auch einen Agentenmodus. Ist das nicht das Gegenteil von Kontrolle?

— Genau davor hatte ich Angst. Deshalb ist die Standardeinstellung, dass die KI fragt, bevor sie etwas macht. Du gibst ein Ziel vor, sie schlägt einen Plan in Schritten vor, und du genehmigst einen Schritt nach dem anderen und siehst, welches Werkzeug verwendet wird und warum. Alles landet im Prüfprotokoll.

Ich glaube, dieser Schalter ist der ganze Unterschied zwischen einer Kommune, die Agenten nutzen darf, und einer, die es nicht darf. Die Fähigkeit haben jetzt alle. Was fehlt, ist der Beweis, wer Ja gesagt hat.

Was ist das Schwierigste daran, das hier aufzubauen?

— Es sein zu lassen. Jede Woche gibt es zehn Dinge, die man zusätzlich bauen könnte, und neun davon machen das Produkt schlechter, weil sie es schwerer verständlich machen. Wer alles hinzufügt, bekommt am Ende etwas, für das man einen Berater braucht, um loszulegen – und dann hat man genau das gebaut, was man ersetzen wollte.

Was hoffst du, dass jemand in einem Jahr sagt?

— Dass sie aufgehört haben, darüber nachzudenken. Dass die Frage „Darf ich KI dafür nutzen?“ in ihrem Unternehmen nicht mehr gestellt wird, weil die Antwort im Tool sichtbar ist, während man arbeitet. Und dass die Finanzchefin weiß, was es auf den Cent genau gekostet hat.

Gib mir etwas Konkretes. Was machen die Leute damit an einem ganz normalen Dienstag?

— Das Lustigste ist, dass die Antwort selten das ist, was man denkt. Alle raten auf „Texte schreiben“. Aber das, was am meisten Zeit spart, ist, nicht lesen zu müssen. Du bekommst einen dreihundertseitigen Jahresbericht, sagst, wer du bist, und bekommst zurück, was genau deine Rolle betrifft. Oder eine Ausschreibungsanfrage: hänge sie zusammen mit dem, was ihr bisher geliefert habt, an und frag direkt, ob es drei Tage Arbeit wert ist. Wir haben das mit einem Unterlagenpaket ausprobiert, das absichtlich zwei Muss-Kriterien nicht erfüllte – und die Antwort hat genau diese beiden benannt.

— Dann haben wir den Vertragsfall. Zwei Versionen desselben Kaufvertrags, bei dem die Gegenseite einen Nebensatz zum Personalverantwortung gestrichen und die Garantiezeit verkürzt hat. Beide Änderungen wurden erkannt. Solche Änderungen übersieht man leicht, wenn man abends um sieben nochmal durchliest.

Und das mit den Fotos?

— Das ist die Funktion, über die die Leute zuerst lachen und die sie dann am meisten nutzen. Fotografiere das Whiteboard nach dem Meeting, bitte um einen Projektplan mit Verantwortlichen. Fotografiere ein handschriftliches Dokument von 1897, lass es übersetzen mit den unsicheren Wörtern markiert. Fotografiere eine Anleitung auf Finnisch. Das klingt wie ein Spielzeug, bis man in einem Lagerraum steht mit einem Gerät, dessen Namen man nicht kennt und nach dem man deshalb nicht suchen kann.

Was ist die häufigste Enttäuschung?

— Dass Leute nach Zahlen fragen, ohne Material zu liefern. Dann erfindet das Modell eine Quelle, die völlig glaubwürdig klingt. Wir haben mal gebeten, Gegenargumente zu einem Debattenartikel zu liefern – die Antwort baute auf einem Bericht auf, der gar nicht existiert. Die Argumentation war brauchbar, die Zahlen waren erfunden.

— Deshalb sage ich immer dasselbe: Gib ihr ein Dokument. Mit Material werden die Zahlen richtig. Ohne Material ist es eine gut formulierte Vermutung. Das ist keine Schwäche von EuroWork, das gilt für alle KI – aber wir sind in der Pflicht, das laut zu sagen, statt die Leute auf einer Ausschusssitzung damit konfrontieren zu lassen.

Letzte Frage: Was soll derjenige, der das hier liest, heute tun?

— Frag deine Kollegen, was sie wirklich nutzen. Nicht in einem formellen Rahmen, einfach fragen. Die Antwort ist meist mehr, als man denkt – und es ist immer besser, es selbst zu wissen, als es von jemand anderem zu erfahren.

---

Über Rickard Eriksson

Er schuf 1996 das, was später LunarStorm wurde – das erste soziale Netzwerk der Welt, mit Millionen Nutzern Jahre bevor Facebook startete. Zusammen mit seinem Unternehmen hat er die KI-Nutzung bei über 7.000 skandinavischen Unternehmen und öffentlichen Einrichtungen ausgebildet und entwickelt. Heute leitet er sein Bildungsunternehmen in Varberg und ist Gründer von EuroWork.

Dasselbe Prinzip damals wie heute: Technik, die normale Menschen wirklich nutzen – und sich jeden Morgen darauf freuen, sie zu öffnen. Das Unternehmen hinter LunarStorm hieß LunarWorks. Dieses Projekt heißt EuroWork.

Erreichbar unter rickard@eurowork.ai.