Základy stínové AI: všichni to dělají, nikdo o tom nemluví

Rickard Eriksson je muž, který v roce 1996 postavil to, co se stalo LunarStorm, prvním sociálním médiem na světě s miliony uživatelů dlouho předtím, než vznikl Facebook. Od té doby on a jeho firma nastartovali vývoj AI u více než 7 000 skandinávských firem a veřejných institucí a zblízka viděli, co se děje, když technologie předběhne pravidla.

Dnes vede svou vzdělávací firmu ve Varbergu a je zakladatelem EuroWork. Posadili jsme se a povídali si o tom, proč postavil pracovní prostředí s AI pro evropské organizace a proč si myslí, že nejdůležitější funkcí je ta, která ukazuje, kolik odpověď stojí.

Říkáš, že stínová AI je skutečný problém. Co tím myslíš?

— Že se už používá. Na každém pracovišti, které navštívím, je někdo, kdo zkopíruje koncept do ChatGPT, aby ho zkrášlil. Často jich je víc. Dělají to na svém soukromém účtu, protože ten měli po ruce, a dělají to proto, že chtějí stihnout svou práci. Není to neposlušnost, je to ctižádost.

Problém je, že nikdo neví, co odešlo ven. A když nikdo neví, co odešlo ven, nikdo nedokáže odpovědět, až se na to někdo zeptá.

Kdo se zeptá?

— Dřív nebo později někdo jiný než ty. Zákazník, který se diví, kam se poděly jeho údaje. Revizor. Pověřenec pro ochranu osobních údajů. Nebo novinář, když máte smůlu. A pak to není na zaměstnanci, aby odpovídal, ale na vedení. Říct „máme pravidla“ nestačí, když je to dokument, který nikdo nečetl, a nic tomu nezabrání.

Ale většina firem přece nějaká pravidla má, ne?

— Mnoho jich má pravidlo, které říká ne. To je nejhorší varianta, protože pak se AI dál používá, ale stane se to neviditelným. Problém se přesunul z neřešeného na neřešený a tajný.

Viděl jsem to jasně na jednom místě, kde AI úplně zakázali. Všichni ji přesto používali. Rozdíl byl jen v tom, že teď to dělali na mobilu místo na pracovním počítači, aby to nebylo vidět. Podařilo se jim udělat to stejně riskantní a zároveň hůř odhalitelné.

A pracovní a soukromý život se prolínají?

— Ano, a to je část, kterou lidé podceňují. Když někdo použije svůj soukromý účet, pracovní materiály skončí v účtu, který zaměstnavatel nevlastní. Člověk změní práci a materiály jdou s ním. Člověk ztratí heslo a nikdo se k ničemu nedostane. A v té historii je zároveň nabídka pro zákazníka a otázka ohledně školky dítěte, ve stejné konverzaci, u poskytovatele na druhé straně Atlantiku.

Není za tím žádná zlomyslnost. Je to prostě to, co se stane, když lidem nedáte nástroj, který je jejich pracovním nástrojem.

Takže EuroWork je alternativa?

— EuroWork je pokus udělat z legální možnosti tu nejjednodušší. To je celý nápad. Pokud je bezpečný způsob složitější než ten nebezpečný, bezpečný prohraje. Vždycky, v každé organizaci, bez ohledu na to, co šéf řekl na poradě.

Co konkrétně má být jednodušší?

— Že to vypadá jako to, na co jsou lidé zvyklí. Napíšeš otázku, dostaneš odpověď. Nikdo nemusí chodit na školení, aby mohl začít. Rozdíl je v tom okolo: odpovědi se standardně zpracovávají v Evropě, obsah se nikdy nepoužije k trénování žádného modelu a pod každou odpovědí to stojí, takže nemusíš hledat ve smlouvě.

A cena?

— To je moje osobní hobby. Nikdo jiný neukazuje, kolik odpověď stojí. Koupíš licenci a pak je ticho, a až příští měsíc uvidí ekonomické oddělení jednorázovou částku.

U nás cena stojí ještě předtím, než pošleš otázku. Vyvážená odpověď z evropského modelu stojí pár haléřů. Když si vybereš americký špičkový model, stejná otázka stojí třeba čtyřicet haléřů. Není špatné vybrat si dražší variantu, někdy to za to stojí, ale máš to vědět předem, ne až potom.

Proč ti tak záleží zrovna na téhle drobnosti?

— Protože je to upřímná verze toho, co vlastně prodáváme. Všichni říkají, že jsou transparentní. Málokdo ukáže číslo, které se dá použít proti nim. Chci, aby si ekonomický ředitel mohl sednout s naší službou a počítat, ne hádat.

Vy stavíte také režim s agenty. Není to v rozporu s kontrolou?

— Přesně toho jsem se bál. Proto je standardní nastavení, že se AI zeptá, než něco udělá. Dáš jí cíl, ona navrhne plán po krocích a ty schvaluješ jeden krok po druhém a vidíš, jaký nástroj se použije a proč. Všechno se zapíše do revizního záznamu.

Myslím, že tenhle přepínač je celý rozdíl mezi tím, jestli může obec agenty používat, nebo ne. Schopnost tu je teď u všech. Chybí důkaz o tom, kdo řekl ano.

Co je nejtěžší na tom tohle stavět?

— Nenechat se unést. Každý týden je deset věcí, které by se daly přidat, a devět z nich by produkt zhoršilo, protože by ho zkomplikovalo. Kdo přidává všechno, skončí s něčím, co vyžaduje konzultanta, aby se to rozjelo, a to je přesně to, co jsme chtěli nahradit.

Co bys chtěl, aby někdo za rok řekl?

— Že už nad tím nepřemýšlí. Že se na jejich pracovišti už neptají „smím použít AI na tohle?“, protože odpověď je vidět přímo v nástroji během práce. A že ekonomický ředitel ví, kolik to stálo, na haléř přesně.

Dej mi něco konkrétního. Co s tím lidé dělají, úplně obyčejné úterý?

— Nejzábavnější je, že odpověď málokdy bývá ta, kterou čekáš. Všichni hádají „psát texty“. To, co ve skutečnosti ušetří nejvíc času, je nemuset číst. Dostaneš výroční zprávu na tři sta stran, řekneš, kdo jsi, a dostaneš zpátky jen to, co se týká tvé role. Nebo výzvu k podání nabídky: přilož ji spolu s tím, co jste dodávali dřív, a zeptej se rovnou, jestli stojí za tři dny práce. Zkusili jsme to s podkladem, který úmyslně nesplňoval dvě povinné podmínky, a odpověď ukázala přesně na ně.

— Pak máme případ smluv. Dvě verze stejné kupní smlouvy, kde protistrana vyškrtla vedlejší větu o odpovědnosti za zaměstnance a zkrátila záruční dobu. Obě změny se našly. Takové věci při večerním čtení snadno přehlédneš.

A to s focením věcí?

— To je funkce, nad kterou se lidé nejdřív smějí a pak ji používají nejvíc. Vyfoť tabuli po poradě a požádej o projektový plán s odpovědnými osobami. Vyfoť ručně psaný dokument z roku 1897 a nech si ho přeložit s nejistými slovy označenými. Vyfoť manuál ve finštině. Zní to jako hračka, dokud nestojíš ve skladu s věcí, jejíž jméno neznáš, a proto ji nemůžeš vyhledat.

Jaké je nejčastější zklamání?

— Že lidé chtějí čísla bez toho, aby dali nějaký materiál. Pak si model vymyslí zdroj, který zní naprosto věrohodně. Zkusili jsme požádat o protiargumenty k článku do debaty a odpověď se opírala o zprávu, která neexistuje. Argumentace byla užitečná, čísla si vymyšlená.

— Proto pořád opakuju to samé: dejte jí dokument. S materiálem budou čísla správně. Bez materiálu je to jen dobře formulovaný odhad. To není chyba EuroWork, platí to pro všechny AI, ale my to musíme říkat nahlas, místo abychom nechali lidi, ať na to přijdou na zasedání rady.

Poslední otázka: co má udělat ten, kdo tohle čte, ještě dnes?

— Zeptej se kolegů, co vlastně používají. Ne v nějakém formálním rámci, jen tak. Odpověď většinou bývá víc, než sis myslel, a vždycky je lepší to vědět sám, než se to dozvíš od někoho jiného.

---

O Rickardu Erikssonovi

V roce 1996 vytvořil to, co se stalo LunarStorm, prvním sociálním médiem na světě s miliony uživatelů roky předtím, než vznikl Facebook. Spolu se svou firmou vzdělával a rozvíjel používání AI u více než 7 000 skandinávských firem a veřejných institucí. Dnes vede svou vzdělávací firmu ve Varbergu a je zakladatelem EuroWork.

Stejný princip jako tehdy: technologie, kterou obyčejní lidé opravdu používají a těší se na ni každé ráno. Firma za LunarStorm se jmenovala LunarWorks. Tohle se jmenuje EuroWork.

Kontaktovat ho můžete na rickard@eurowork.ai.