Zakladatel o stínové AI: všichni to dělají, nikdo o tom nemluví

Rickard Eriksson je muž, který v roce 1996 vytvořil to, co se stalo LunarStorm, prvním sociálním médiem na světě s miliony uživatelů dlouho před vznikem Facebooku. Od té doby on a jeho společnost nastartovali vývoj AI u více než 7 000 skandinávských firem a veřejných institucí a zblízka viděli, co se stane, když technologie předběhne pravidla.

Dnes vede společnost Skräddarsydd AB ve Varbergu a je zakladatelem EuroWork. Posadili jsme se a povídali si o tom, proč vytvořil pracovní prostor s AI pro evropské organizace a proč považuje za nejdůležitější funkci tu, která ukazuje, kolik odpověď stojí.

Říkáš, že stínová AI je skutečný problém. Co tím myslíš?

— Že se už používá. Na každém pracovišti, které navštívím, je někdo, kdo zkopíruje koncept do ChatGPT, aby ho zkrášlil. Často jich je víc. Dělají to na svém soukromém účtu, protože ten měli, a dělají to proto, že chtějí stihnout svou práci. Není to neposlušnost, je to ambice.

Problém je, že nikdo neví, co odešlo ven. A když nikdo neví, co odešlo ven, nikdo nemůže odpovědět na otázku, až přijde.

Kdo tu otázku položí?

— Dřív nebo později někdo jiný než ty. Zákazník, který se ptá, kam se poděly jeho údaje. Revizor. Pověřenec pro ochranu osobních údajů. Nebo novinář, pokud máte smůlu. A pak to není zaměstnanec, kdo má odpovídat, ale vedení. Odpovědět „máme politiku“ nestačí, pokud je ta politika dokument, který nikdo nečetl a nic nezabrání.

Ale většina přece nějaká pravidla má, ne?

— Mnozí mají pravidlo, které říká ne. To je nejhorší varianta, protože pak používání pokračuje, ale stane se neviditelným. Přesunuli jste problém z neřešeného na neřešený a tajný.

Viděl jsem to jasně na jednom místě, kde AI úplně zakázali. Všichni ji přesto používali. Rozdíl byl v tom, že teď to dělali na mobilu místo na pracovním počítači, aby to nebylo vidět. Podařilo se jim udělat to stejně riskantní a zároveň hůře odhalitelné.

A pracovní a soukromý život se míchají?

— Ano, a to je část, kterou lidé podceňují. Když někdo použije svůj soukromý účet, pracovní materiály jsou na účtu, který zaměstnavatel nevlastní. Osoba změní práci a materiály jdou s ní. Osoba ztratí heslo a nikdo se k ničemu nedostane. A v té historii je jak nabídka pro zákazníka, tak otázka ohledně výběru školy pro dítě, ve stejné konverzaci, u poskytovatele na druhé straně Atlantiku.

Není to zlý úmysl od nikoho. Je to prostě to, co se stane, když lidem nedáte nástroj, který je jejich pracovním nástrojem.

Takže EuroWork je alternativa?

— EuroWork je pokus udělat z legální alternativy to nejjednodušší. To je celá myšlenka. Pokud je bezpečný způsob složitější než ten nebezpečný, bezpečný způsob prohraje, pokaždé, v každé organizaci, bez ohledu na to, co šéf řekl na poradě.

Co konkrétně má být jednodušší?

— Že to vypadá jako to, na co jsou lidé zvyklí. Napíšete otázku, dostanete odpověď. Nikdo nemusí chodit na školení, aby začal. Rozdíl je v okolnostech: odpovědi se standardně zpracovávají v Evropě, obsah se nikdy nepoužívá k trénování žádného modelu a pod každou odpovědí je to napsáno, takže nemusíte hledat ve smlouvě.

A cena?

— To je moje osobní hobby. Nikdo jiný neukazuje, kolik odpověď stojí. Koupíte licenci a pak je ticho, a až příští měsíc uvidí ekonomické oddělení jednorázovou částku.

U nás cena stojí před tím, než otázku odešlete. Vyvážená odpověď od evropského modelu stojí pár haléřů. Zvolíte-li americký špičkový model, stejná otázka stojí několik desítek haléřů. Není špatné zvolit dražší, někdy to za to stojí, ale měli byste to vědět předem, ne až potom.

Proč ti tak záleží právě na téhle podrobnosti?

— Protože je to upřímná verze toho, co prodáváte. Všichni říkají, že jsou transparentní. Málokdo ukáže číslo, které může být použito proti nim. Chci, aby finanční ředitel mohl sedět s naší službou a počítat, ne hádat.

Vy budujete také režim agentů. Není to v rozporu s kontrolou?

— Přesně toho jsem se bál. Proto je standardní nastavení, že se AI ptá, než něco udělá. Stanovíte cíl, ona navrhne plán po krocích a vy schvalujete jeden krok po druhém a vidíte, jaký nástroj se použije a proč. Všechno se zaznamenává do revizního logu.

Myslím, že tenhle přepínač je celý rozdíl mezi tím, zda může obec AI agenty používat, nebo ne. Schopnost mají všichni. Chybí důkaz o tom, kdo řekl ano.

Co je nejtěžší při budování něčeho takového?

— Zdržet se. Každý týden je deset věcí, které by se daly přidat, a devět z nich udělá produkt horším, protože ho zkomplikuje. Kdo přidává všechno, skončí s něčím, co vyžaduje konzultanta, aby se to rozběhlo, a to je přesně to, co jsme chtěli nahradit.

Co bys chtěl, aby někdo za rok řekl?

— Že už nad tím nepřemýšlí. Že se na jejich pracovišti už neptají „smím použít AI na tohle?“, protože odpověď je vidět v nástroji během práce. A že finanční ředitel ví, kolik to stálo, do haléře.

Poslední otázka: co by měl udělat ten, kdo tohle čte, ještě dnes?

— Zeptejte se svých kolegů, co vlastně používají. Ne v nějakém formálním rámci, prostě se zeptejte. Odpověď bývá víc, než si myslíte, a vždycky je lepší to vědět sám, než se to dozvědět od někoho jiného.

---

O Rickardu Erikssonovi

V roce 1996 vytvořil to, co se stalo LunarStorm, prvním sociálním médiem na světě s miliony uživatelů roky před spuštěním Facebooku. Spolu se svou společností vzdělával a rozvíjel používání AI u více než 7 000 skandinávských firem a veřejných institucí. Dnes vede společnost Skräddarsydd AB ve Varbergu a je zakladatelem EuroWork.

Stejný princip jako dřív: technologie, kterou obyčejní lidé opravdu používají a těší se na ni každé ráno. Firma za LunarStorm se jmenovala LunarWorks. Tohle se jmenuje EuroWork.

Kontakt: rickard@eurowork.ai.