De oprichter over schaduw-AI: iedereen doet het, niemand praat erover

Rickard Eriksson is de man die in 1996 bouwde wat LunarStorm werd, ’s werelds eerste sociale medium, met miljoenen gebruikers lang voordat Facebook bestond. Sindsdien hebben hij en zijn bedrijf de AI-ontwikkeling bij meer dan 7.000 Scandinavische bedrijven en overheidsorganisaties op gang geholpen. Hij heeft van dichtbij gezien wat er gebeurt als technologie voor de regels komt.

Tegenwoordig runt hij zijn trainingsbedrijf in Varberg en is hij de oprichter achter EuroWork. We gingen zitten om te praten over waarom hij een AI-werkplek voor Europese organisaties bouwde, en waarom hij vindt dat de belangrijkste functie degene is die laat zien wat een antwoord kost.

Je zegt dat schaduw-AI het echte probleem is. Wat bedoel je daarmee?

— Dat het al gebruikt wordt. Op elke werkplek die ik bezoek, is er wel iemand die een concept in ChatGPT plakt om het netjes te maken. Vaak zijn het er meer. Ze doen het met hun privéaccount, omdat dat het enige was wat ze hadden, en ze doen het omdat ze hun werk willen afkrijgen. Het is geen ongehoorzaamheid, het is ambitie.

Het probleem is dat niemand weet wat er naar buiten gaat. En als niemand weet wat er naar buiten gaat, kan niemand antwoord geven als de vraag komt.

Wie stelt die vraag?

— Vroeg of laat iemand anders dan jij. Een klant die wil weten waar hun gegevens gebleven zijn. Een accountant. Een vertrouwenspersoon. Of een journalist, als je pech hebt. En dan is het niet de medewerker die antwoord moet geven, maar de leiding. Antwoorden met "we hebben een beleid" is niet genoeg als dat beleid een document is dat niemand gelezen heeft en niets tegenhoudt.

Maar de meesten hebben toch wel een regel?

— Veel organisaties hebben een regel die nee zegt. Dat is de slechtste variant, want dan gaat het gebruik gewoon door, maar wordt het onzichtbaar. Je hebt het probleem verplaatst van onbeheersbaar naar onbeheersbaar én geheim.

Ik zag het duidelijk bij een organisatie waar AI helemaal verboden was. Iedereen gebruikte het toch. Het verschil was dat ze het nu op hun telefoon deden in plaats van op hun werkcomputer, zodat het niet opviel. Ze hadden het zowel even riskant als moeilijker te zien gemaakt.

En werk en privé lopen door elkaar?

— Ja, en dat is het deel dat mensen onderschatten. Als iemand zijn privéaccount gebruikt, liggen de werkgegevens in een account dat de werkgever niet bezit. Die persoon verandert van baan, en de gegevens gaan mee. Die persoon verliest zijn wachtwoord, en niemand kan er meer bij. En in die geschiedenis staan zowel het offerte voor de klant als de vraag over de schoolkeuze van hun kind, in dezelfde thread, bij een leverancier aan de andere kant van de Atlantische Oceaan.

Het is geen kwaadwillendheid van iemand. Het is gewoon wat er gebeurt als je mensen geen gereedschap geeft dat hun werkgereedschap is.

Dus EuroWork is het alternatief?

— EuroWork is een poging om het legale alternatief te maken voor wat het makkelijkst is. Dat is het hele idee. Als de veilige manier ingewikkelder is dan de onveilige, verliest de veilige het elke keer, in elke organisatie, wat de baas ook in een vergadering gezegd heeft.

Wat is concreet het verschil dat het makkelijker maakt?

— Dat het eruitziet als wat mensen al gewend zijn. Je stelt een vraag, je krijgt een antwoord. Niemand hoeft een cursus te volgen om aan de slag te gaan. Het verschil zit eromheen: antwoorden worden standaard in Europa verwerkt, de inhoud wordt nooit gebruikt om een model te trainen, en het staat onder elk antwoord zodat je niet in een contract hoeft te zoeken.

En de kosten?

— Dat is mijn persoonlijke stokpaardje. Niemand anders laat zien wat een antwoord kost. Je koopt een licentie en daarna is het stil, en pas aan het eind van de maand ziet de financiële afdeling een totaalbedrag.

Bij ons staat de prijs voordat je de vraag verstuurt. Een gebalanceerd antwoord van een Europees model kost een paar cent. Kies je voor een Amerikaans topmodel, dan kost dezelfde vraag vijfenveertig cent. Het is niet verkeerd om voor de dure te kiezen, soms is die het waard, maar je moet het van tevoren weten, niet achteraf.

Waarom geef je zoveel om juist dat detail?

— Omdat het de eerlijke versie is van wat je verkoopt. Iedereen zegt dat ze transparant zijn. Heel weinig laten een getal zien dat tegen hen gebruikt kan worden. Ik wil dat een financieel directeur met onze dienst kan rekenen, niet gokken.

Jullie bouwen ook een agentmodus. Is dat niet het tegenovergestelde van controle?

— Dat was precies waar ik bang voor was. Daarom is de standaardinstelling dat de AI vraagt voordat hij iets doet. Je geeft een doel, de AI stelt een plan in stappen voor, en jij keurt stap voor stap goed en ziet welk gereedschap gebruikt wordt en waarom. Alles komt in het auditlogboek.

Ik denk dat dat schakelaartje het hele verschil maakt tussen een gemeente die agenten mag gebruiken en een gemeente die het niet mag. De mogelijkheid is er nu bij iedereen. Wat ontbreekt is het bewijs van wie ja gezegd heeft.

Wat is het moeilijkste aan dit bouwen?

— Om het niet te doen. Elke week zijn er tien dingen die gebouwd zouden kunnen worden, en negen daarvan maken het product slechter omdat ze het moeilijker te begrijpen maken. Wie alles toevoegt, eindigt met iets dat een consultant nodig heeft om op te starten, en dan heb je precies gebouwd wat je wilde vervangen.

Wat hoop je dat iemand over een jaar zegt?

— Dat ze er niet meer over hoeven nadenken. Dat de vraag "mag ik AI hiervoor gebruiken?" niet meer gesteld wordt op hun werkplek, omdat het antwoord zichtbaar is in het gereedschap terwijl je werkt. En dat de financieel directeur weet wat het gekost heeft, tot op de cent.

Geef me iets concreets. Wat doen mensen ermee, op een doodgewone dinsdag?

— Het leukste is dat het antwoord zelden is wat je denkt. Iedereen gokt op "teksten schrijven". Wat echt de meeste tijd bespaart, is dat je niet hoeft te lezen. Je krijgt een jaarverslag van driehonderd pagina’s, je zegt wie je bent, en je krijgt terug wat voor jouw rol relevant is. Of een aanbestedingsverzoek: voeg het toe samen met wat jullie eerder geleverd hebben en vraag ronduit of het drie dagen werk waard is. We hebben het geprobeerd met een document dat expres niet aan twee eisen voldeed, en het antwoord wees precies die twee aan.

— Dan hebben we het contractgeval. Twee versies van hetzelfde koopcontract, waarbij de tegenpartij een bijzin over personeelsverantwoordelijkheid heeft verwijderd en de garantietermijn heeft verkort. Beide kwamen terug. Dat soort wijzigingen glipt door als je ’s avonds om zeven uur een document doorleest.

En dat met foto’s maken?

— Dat is de functie waar mensen eerst om lachen en die ze daarna het meest gebruiken. Maak een foto van het whiteboard na de vergadering, vraag om een projectplan met verantwoordelijken. Maak een foto van een handgeschreven document uit 1897, laat het vertalen met de onzekere woorden gemarkeerd. Maak een foto van een handleiding in het Fins. Het klinkt als een speeltje tot je in een opslagruimte staat met een ding waarvan je de naam niet weet en dus niet kunt opzoeken.

Wat is de meest voorkomende teleurstelling?

— Dat mensen om cijfers vragen zonder materiaal te geven. Dan kan het model een bron verzinnen die volkomen betrouwbaar klinkt. We hebben het geprobeerd door om tegenargumenten te vragen bij een opiniestuk, en het antwoord baseerde zich op een rapport dat niet bestaat. De redenering was bruikbaar, de cijfers waren verzonnen.

— Daarom zeg ik altijd hetzelfde: geef het een document. Met materiaal kloppen de cijfers. Zonder materiaal is het een goed geformuleerde gok. Dat geldt niet alleen voor EuroWork, het geldt voor alle AI, maar wij zijn verplicht om het hardop te zeggen in plaats van mensen het op een vergadering te laten ontdekken.

Laatste vraag: wat moet degene die dit leest vandaag doen?

— Vraag je collega’s wat ze eigenlijk gebruiken. Niet in een formele setting, gewoon vragen. Het antwoord is meestal meer dan je denkt, en het is altijd beter om het zelf te weten dan dat iemand anders het je vertelt.

---

Over Rickard Eriksson

Bouwde in 1996 wat LunarStorm werd, ’s werelds eerste sociale medium, met miljoenen gebruikers jaren voordat Facebook begon. Heeft samen met zijn bedrijf meer dan 7.000 Scandinavische bedrijven en overheidsorganisaties getraind en geholpen bij het ontwikkelen van AI-gebruik. Run vandaag zijn trainingsbedrijf in Varberg en is oprichter van EuroWork.

Hetzelfde principe toen als nu: technologie die gewone mensen echt gebruiken, en waar ze elke ochtend naar uitkijken om te openen. Het bedrijf achter LunarStorm heette LunarWorks. Deze heet EuroWork.

Bereikbaar via rickard@eurowork.ai.