Osnovno o senci AI: vsi to počnejo, nihče o tem ne govori

Rickard Eriksson je človek, ki je leta 1996 ustvaril tisto, kar je postalo LunarStorm, prvi družbeni medij na svetu z milijoni uporabnikov, še preden je obstajal Facebook. Od takrat sta on in njegovo podjetje spodbudila razvoj AI pri več kot 7000 skandinavskih podjetjih in javnih ustanovah ter iz bližine videla, kaj se zgodi, ko tehnologija prehiti pravila.

Danes vodi svoje izobraževalno podjetje v Varbergu in je ustanovitelj EuroWorka. Usedli smo se in pogovorili o tem, zakaj je ustvaril AI delovno okolje za evropske organizacije in zakaj meni, da je najpomembnejša funkcija tista, ki pokaže, koliko stane odgovor.

Pravite, da je senca AI pravi problem. Kaj imate v mislih?

— Da se že uporablja. Na vsakem delovnem mestu, ki ga obiščem, je nekdo, ki prilepi osnutek v ChatGPT, da ga polepša. Pogosto jih je več. To počnejo s svojo zasebno prijavo, ker je imajo, in to počnejo, ker želijo opraviti svoje delo. To ni neposlušnost, to je ambicija.

Problem je, da nihče ne ve, kaj je šlo ven. In ko nihče ne ve, kaj je šlo ven, nihče ne more odgovoriti na vprašanje, ko pride.

Kdo postavi to vprašanje?

— Prej ali slej nekdo drug kot vi. Stranka, ki se sprašuje, kam so šle njene informacije. Revizor. Varuh človekovih pravic. Ali novinar, če nimate sreče. In takrat ne bo odgovarjal zaposleni, ampak vodstvo. Odgovor »imamo politiko« ni dovolj, če je politika dokument, ki ga nihče ni prebral, in ničesar ne preprečuje.

Ampak večina ima vseeno kakšno pravilo?

— Mnogi imajo pravilo, ki pravi ne. To je najslabša različica, ker se uporaba nadaljuje, a postane nevidna. Problem ste premaknili iz neurejenega v neurejeno in skrivno.

To sem jasno videl na enem mestu, kjer so AI popolnoma prepovedali. Vsi so ga vseeno uporabljali. Razlika je bila le v tem, da so to zdaj počeli na mobilnem telefonu namesto na delovnem računalniku, da se ne bi videlo. Uspešno so naredili nekaj enako tveganega in hkrati težje opaznega.

In mešanje dela in zasebnega življenja?

— Da, in to je del, ki ga ljudje podcenjujejo. Ko nekdo uporabi svoj zasebni račun, so delovni materiali v računu, ki ga delodajalec ne poseduje. Oseba spremeni službo in materiali gredo z njo. Oseba izgubi geslo in nihče ne more ničesar dostopati. In v tej zgodovini so tako ponudba za stranko kot vprašanje o šolski izbiri otroka, v isti niti, pri ponudniku na drugi strani Atlantika.

To ni zlonamernost. To je preprosto tisto, kar se zgodi, ko ljudem ne ponudite orodja, ki je njihovo delovno orodje.

Torej je EuroWork alternativa?

— EuroWork je poskus, da bi zakonito alternativo naredili za najlažjo. To je celotna ideja. Če je varen način bolj zapleten kot nevaren, varni izgubi vsakič, v vsaki organizaciji, ne glede na to, kaj je šef rekel na sestanku.

Kaj je tisto konkretno, kar naj bi to olajšalo?

— Da zgleda tako, kot je ljudem že znano. Napišete vprašanje, dobite odgovor. Nihče ne bi smel potrebovati tečaja, da bi začel. Razlika je v okolici: odgovori se obdelujejo v Evropi kot standard, vsebina se nikoli ne uporablja za učenje katerega koli modela in pod vsakim odgovorom je napisano, tako da ne potrebujete iskati v pogodbi.

In cena?

— To je moja osebna muha. Nihče drug ne pokaže, koliko stane odgovor. Kupite licenco in nato je tiho, šele naslednji mesec ekonomski oddelek vidi skupno vsoto.

Pri nas je cena napisana, preden pošljete vprašanje. Uravnotežen odgovor evropskega modela stane nekaj centov. Če izberete ameriški vrhunski model, stane isto vprašanje okoli štirideset centov. Ni narobe, da izberete dražjega, včasih je to vredno, vendar bi morali vedeti prej in ne potem.

Zakaj vam je toliko mar za ta podrobnost?

— Ker je to poštena različica tega, kar prodajamo. Vsi pravijo, da so transparentni. Zelo malo jih pokaže številko, ki jo je mogoče uporabiti proti njim. Želim, da lahko finančni direktor sedi z našo storitvijo in računa, ne ugiba.

Gradite tudi način delovanja agentov. Ali to ni nasprotje nadzora?

— Prav tega sem se bal. Zato je standardno, da AI vpraša, preden nekaj naredi. Določite cilj, ona predlaga načrt v korakih in vi odobrite en korak naenkrat ter vidite, katero orodje se bo uporabilo in zakaj. Vse pristane v revizijskem dnevniku.

Menim, da je ta stikalo celotna razlika med tem, ali lahko občina uporablja agente ali ne. Zmožnost jo imajo zdaj vsi. Manjka le dokaz, kdo je rekel da.

Kaj je najtežje pri izgradnji tega?

— Da se vzdržimo. Vsak teden je deset stvari, ki bi jih lahko zgradili, in devet od njih bi izdelek poslabšalo, ker bi ga naredilo težje razumljivega. Tisti, ki doda vse, na koncu dobi nekaj, kar zahteva svetovalca za začetek, in takrat ste zgradili prav tisto, kar ste želeli nadomestiti.

Kaj upate, da bo nekdo rekel čez eno leto?

— Da so nehali razmišljati o tem. Da se na njihovem delovnem mestu ne postavlja več vprašanje »ali smem uporabiti AI za to?«, ker je odgovor viden v orodju med delom. In da finančni direktor ve, koliko je stalo, do centa.

Povejte mi nekaj konkretnega. Kaj ljudje počnejo s tem, povsem običajen torek?

— Najbolj zabavno je, da odgovor redko ustreza pričakovanjem. Vsi ugibajo »pisanje besedil«. Tisto, kar dejansko prihranjuje največ časa, je, da ne potrebujete brati. Dobite letno poročilo na tristo straneh, poveste, kdo ste, in dobite nazaj tisto, kar se nanaša prav na vašo vlogo. Ali razpis: priložite ga skupaj s tistim, kar ste že prej dostavili, in vprašajte naravnost, ali je vredno treh dni dela. Preizkusili smo to z gradivom, ki namerno ni izpolnjevalo dveh obveznih zahtev, in odgovor je natančno pokazal ravno na njiju.

— Nato imamo primer pogodbe. Dve različici iste kupne pogodbe, kjer je nasprotna stran odstranila podstavek o odgovornosti osebja in skrajšala garancijsko dobo. Obe sta se pokazali. Take spremembe pogled zgreši ob prebiranju ob sedmih zvečer.

In tisto s fotografiranjem stvari?

— To je funkcija, ki se ji ljudje najprej smejejo, nato pa jo najbolj uporabljajo. Fotografirajte tablo po sestanku, zahtevajte projektni načrt z odgovornimi osebami. Fotografirajte rokopisni dokument iz leta 1897, dobite prevod z označenimi negotovimi besedami. Fotografirajte navodila v finščini. Zveni kot igrača, dokler ne stojite v shrambi s stvarjo, katere imena ne poznate in zato nanjo ne morete iskati.

Kaj je najpogostejše razočaranje?

— Da ljudje prosijo za številke, ne da bi dali kakšno gradivo. Takrat lahko model izmisli vir, ki zveni popolnoma verodostojno. Preizkusili smo, da smo prosili za protiargumente k debatnemu članku, in odgovor je temeljil na poročilu, ki ne obstaja. Razmišljanje je bilo uporabno, številke pa izmišljene.

— Zato vedno povem isto: dajte mu dokument. S gradivom so številke pravilne. Brez gradiva je to le dobro oblikovana ugibanja. To ni pomanjkljivost EuroWorka, velja za vso AI, vendar smo dolžni to povedati na glas, namesto da bi pustili, da se ljudje zavedo tega na seji sveta.

Zadnje vprašanje: kaj naj naredi tisti, ki to bere danes?

— Vprašajte svoje sodelavce, kaj dejansko uporabljajo. Ne v formalnem kontekstu, samo vprašajte. Odgovor je običajno več, kot ste mislili, in vedno je bolje, da to veste sami, kot da vam to pove nekdo drug.

---

O Rickardu Erikssonu

Leta 1996 je ustvaril tisto, kar je postalo LunarStorm, prvi družbeni medij na svetu z milijoni uporabnikov, leta preden je začel Facebook. Skupaj s svojim podjetjem je izobraževal in razvijal uporabo AI pri več kot 7000 skandinavskih podjetjih in javnih ustanovah. Danes vodi svoje izobraževalno podjetje v Varbergu in je ustanovitelj EuroWorka.

Isti princip kot takrat še danes: tehnologija, ki jo običajni ljudje dejansko uporabljajo in se veselijo, da jo odprejo vsako jutro. Podjetje za LunarStorm se je imenovalo LunarWorks. Ta projekt se imenuje EuroWork.

Dosegljiv je na rickard@eurowork.ai.