De grondlegger over schaduw-AI: iedereen doet het, niemand praat erover

Rickard Eriksson is de man die in 1996 bouwde wat LunarStorm werd, ’s werelds eerste sociale medium, met miljoenen gebruikers lang voordat Facebook bestond. Sindsdien hebben hij en zijn bedrijf de AI-ontwikkeling bij meer dan 7.000 Scandinavische bedrijven en overheidsorganisaties op gang gebracht, en van dichtbij gezien wat er gebeurt als technologie voor de regels komt.

Tegenwoordig leidt hij Skräddarsydd AB in Varberg en is hij de grondlegger achter EuroWork. We gingen zitten om te praten over waarom hij een AI-werkplek voor Europese organisaties bouwde, en waarom hij vindt dat de belangrijkste functie degene is die laat zien wat een antwoord kost.

Je zegt dat schaduw-AI het echte probleem is. Wat bedoel je daarmee?

— Dat het al gebruikt wordt. Op elke werkplek die ik bezoek, is er wel iemand die een concept in ChatGPT plakt om het netter te maken. Vaak zijn het er meerdere. Ze doen dat met hun privé-inloggegevens, omdat dat was wat ze hadden, en ze doen het omdat ze hun werk willen afkrijgen. Het is geen ongehoorzaamheid, het is ambitie.

Het probleem is dat niemand weet wat er naar buiten gaat. En als niemand weet wat er naar buiten gaat, kan niemand de vraag beantwoorden als die komt.

Wie stelt die vraag?

— Vroeg of laat iemand anders dan jij. Een klant die wil weten waar hun gegevens gebleven zijn. Een accountant. Een vertrouwenspersoon. Of een journalist, als je pech hebt. En dan is het niet de medewerker die antwoord moet geven, maar de leiding. Antwoorden met "we hebben een beleid" is niet genoeg als dat beleid een document is dat niemand gelezen heeft en niets tegenhoudt.

Maar de meesten hebben toch wel een regel?

— Veel organisaties hebben een regel die nee zegt. Dat is de slechtste variant, want dan gaat het gebruik gewoon door, maar wordt het onzichtbaar. Je hebt het probleem verplaatst van onbeheersbaar naar onbeheersbaar én geheim.

Ik zag het duidelijk bij een organisatie waar AI volledig verboden was. Iedereen gebruikte het toch. Het verschil was dat ze het nu op hun telefoon deden in plaats van op hun werkcomputer, zodat het niet zichtbaar was. Ze hadden het zowel even riskant als moeilijker te zien gemaakt.

En werk en privé lopen door elkaar?

— Ja, en dat is het deel dat mensen onderschatten. Als iemand zijn privéaccount gebruikt, ligt het werk materiaal in een account dat niet van de werkgever is. De persoon verandert van baan, en het materiaal gaat mee. De persoon verliest zijn wachtwoord, en niemand kan er meer bij. En in die geschiedenis staan zowel het offerte voor de klant als de vraag over de schoolkeuze van het kind, in dezelfde thread, bij een leverancier aan de andere kant van de Atlantische Oceaan.

Het is geen kwaadwillendheid van iemand. Het is gewoon wat er gebeurt als je mensen geen gereedschap geeft dat hun werkgereedschap is.

Dus EuroWork is het alternatief?

— EuroWork is een poging om het legale alternatief te maken voor wat het makkelijkst is. Dat is het hele idee. Als de veilige manier ingewikkelder is dan de onveilige, verliest de veilige het elke keer, in elke organisatie, ongeacht wat de baas in een vergadering heeft gezegd.

Wat is concreet het verschil dat het makkelijker moet maken?

— Dat het eruitziet zoals waar mensen al aan gewend zijn. Je stelt een vraag, je krijgt een antwoord. Niemand hoeft een cursus te volgen om aan de slag te gaan. Het verschil zit eromheen: antwoorden worden standaard in Europa verwerkt, de inhoud wordt nooit gebruikt om een model te trainen, en het staat onder elk antwoord zodat je niet in een overeenkomst hoeft te zoeken.

En de kosten?

— Dat is mijn persoonlijke stokpaardje. Niemand anders laat zien wat een antwoord kost. Je koopt een licentie en daarna is het stil, en pas de maand erna ziet de financiële afdeling een totaalbedrag.

Bij ons staat de prijs voordat je de vraag verstuurt. Een gebalanceerd antwoord van een Europees model kost een paar cent. Kies je voor een Amerikaans topmodel, dan kost dezelfde vraag vijfenveertig cent. Het is niet verkeerd om voor de dure te kiezen, soms is die het waard, maar je moet het van tevoren weten, niet achteraf.

Waarom geef je zo veel om juist dat detail?

— Omdat het de eerlijke versie is van wat je verkoopt. Iedereen zegt dat ze transparant zijn. Heel weinig laten een cijfer zien dat tegen hen gebruikt kan worden. Ik wil dat een financieel directeur met onze dienst kan rekenen, niet gokken.

Jullie bouwen ook een agentmodus. Is dat niet het tegenovergestelde van controle?

— Dat was precies waar ik bang voor was. Daarom is de standaardinstelling dat de AI vraagt voordat hij iets doet. Je geeft een doel op, de AI stelt een plan in stappen voor, en jij keurt stap voor stap goed en ziet welk gereedschap gebruikt gaat worden en waarom. Alles komt in het auditlogboek.

Ik denk dat dat knopje het hele verschil maakt tussen een gemeente die agenten mag gebruiken en een gemeente die het niet mag. De mogelijkheid is er nu voor iedereen. Wat ontbreekt, is het bewijs van wie ja heeft gezegd.

Wat is het moeilijkste aan het bouwen hiervan?

— Om het niet te doen. Elke week zijn er tien dingen die gebouwd zouden kunnen worden, en negen daarvan maken het product slechter omdat ze het moeilijker te begrijpen maken. Wie alles toevoegt, eindigt met iets dat een consultant nodig heeft om op te starten, en dan heb je precies gebouwd wat je wilde vervangen.

Wat hoop je dat iemand over een jaar zegt?

— Dat ze er niet meer over hoeven nadenken. Dat de vraag "mag ik AI hiervoor gebruiken?" niet meer gesteld wordt op hun werkplek, omdat het antwoord zichtbaar is in het gereedschap terwijl je werkt. En dat de financieel directeur weet wat het gekost heeft, tot op de cent.

Laatste vraag: wat moet degene die dit leest vandaag doen?

— Vraag je collega’s wat ze eigenlijk gebruiken. Niet in een formele setting, gewoon vragen. Het antwoord is meestal meer dan je dacht, en het is altijd beter om het zelf te weten dan om het van iemand anders te horen.

---

Over Rickard Eriksson

Creëerde in 1996 wat LunarStorm werd, ’s werelds eerste sociale medium, met miljoenen gebruikers jaren voordat Facebook begon. Heeft samen met zijn bedrijf de AI-toepassing bij meer dan 7.000 Scandinavische bedrijven en overheidsorganisaties opgeleid en ontwikkeld. Leidt nu Skräddarsydd AB in Varberg en is de oprichter van EuroWork.

Hetzelfde principe toen als nu: technologie die gewone mensen daadwerkelijk gebruiken, en waar ze elke ochtend naar uitkijken om te openen. Het bedrijf achter LunarStorm heette LunarWorks. Deze bouw heet EuroWork.

Bereikbaar via rickard@eurowork.ai.