El fundador sobre l'AI a l'ombra: tothom ho fa, ningú en parla

Rickard Eriksson és l'home que el 1996 va crear el que es va convertir en LunarStorm, el primer mitjà social del món, amb milions d'usuaris molt abans que existís Facebook. Des de llavors, ell i la seva empresa han impulsat el desenvolupament de la IA en més de 7.000 empreses i organitzacions públiques escandinaves, i han vist de prop què passa quan la tecnologia va per davant de les normes.

Avui dirigeix Skräddarsydd AB a Varberg i és el fundador darrere d'EuroWork. Ens vam asseure a parlar sobre per què va construir una plataforma d'IA per a organitzacions europees, i per què creu que la funció més important és la que mostra què costa una resposta.

Dius que l'AI a l'ombra és el veritable problema. Què vols dir?

— Que ja s'utilitza. A cada lloc de treball que visito hi ha algú que enganxa un esborrany a ChatGPT per polir-lo. Sovint són diverses persones. Ho fan amb el seu compte privat, perquè era el que tenien, i ho fan perquè volen acabar la feina. No és desobediència, és ambició.

El problema és que ningú sap què ha sortit. I quan ningú sap què ha sortit, ningú pot respondre quan arriba la pregunta.

Qui fa la pregunta?

— Tard o d'hora, algú altre que tu. Un client que es pregunta on han anat a parar les seves dades. Un revisor. Un delegat de prevenció. O un periodista, si tens mala sort. I aleshores no és el treballador qui ha de respondre, sinó la direcció. Respondre "tenim una política" no és suficient si la política és un document que ningú ha llegit i res no impedeix.

Però la majoria tenen alguna norma, no?

— Molts tenen una norma que diu que no. És la pitjor variant, perquè aleshores l'ús continua, però esdevé invisible. Has traslladat el problema de ser inmanejable a ser inmanejable i secret.

Ho vaig veure clar en un lloc on s'havia prohibit totalment la IA. Tothom la feia servir igualment. La diferència era que ara ho feien amb el mòbil en comptes de l'ordinador de la feina, perquè no es notés. Havien aconseguit fer-ho igual de arriscat i més difícil de detectar.

I es barregen feina i vida privada?

— Sí, i és la part que la gent subestima. Quan algú utilitza el seu compte privat, el material de feina queda en un compte que l'empresa no posseeix. La persona canvia de feina i el material se'n va amb ella. La persona perd la contrasenya i ningú no hi pot accedir. I en aquella història hi ha tant l'oferta per al client com la pregunta sobre l'escola del fill, en el mateix fil, en un proveïdor a l'altra banda de l'Atlàntic.

No hi ha mala intenció per part de ningú. És simplement el que passa quan no dones a la gent una eina que sigui la seva eina de feina.

Així que EuroWork és l'alternativa?

— EuroWork és un intent de fer que l'alternativa legal sigui la més senzilla. Aquesta és tota la idea. Si la manera segura és més complicada que la insegura, la segura perdrà, cada vegada, a cada organització, independentment del que hagi dit el cap en una reunió.

Què és concretament el que ha de fer-ho més senzill?

— Que s'assembli al que la gent ja coneix. Escriviu una pregunta, obteniu una resposta. Ningú no hauria de fer un curs per començar. La diferència rau en el que hi ha al voltant: les respostes es processen a Europa per defecte, el contingut mai no s'utilitza per entrenar cap model, i apareix sota cada resposta perquè no hagis de buscar-ho en un contracte.

I el cost?

— Aquest és el meu cavall de batalla personal. Ningú més mostra què costa una resposta. Compres una llicència i després tot és silenci, i no és fins al mes següent que el departament de finances veu una quantitat global.

A casa nostra, el preu apareix abans d'enviar la pregunta. Una resposta equilibrada d'un model europeu costa uns cèntims. Si tries un model estatunidenc de gamma alta, la mateixa pregunta costa quaranta-quatre cèntims. No està malament triar l'opció cara, de vegades val la pena, però has de saber-ho abans, no després.

Per què et preocupa tant aquest detall?

— Perquè és la versió honesta del que es ven. Tothom diu que és transparent. Molt pocs mostren una xifra que es pugui fer servir en contra seva. Vull que un director financer pugui seure amb el nostre servei i calcular, no endevinar.

També esteu construint un mode agent. No és la contrària del control?

— Precisament això em feia por. Per això el mode per defecte és que la IA pregunti abans de fer res. Li dones un objectiu, et proposa un pla pas a pas, i aproves cada pas i veus quina eina s'utilitzarà i per què. Tot queda registrat al registre d'auditoria.

Crec que aquest interruptor és tota la diferència entre que un ajuntament pugui fer servir agents i que no pugui. La capacitat ja la tenen tots. El que falta és la prova de qui va dir que sí.

Què és el més difícil de construir això?

— Deixar-ho estar. Cada setmana hi ha deu coses més que es podrien construir, i nou d'elles fan que el producte sigui pitjor perquè el fan més difícil d'entendre. Qui ho afegeix tot acaba tenint una cosa que requereix un consultor per començar, i aleshores has construït exactament el que volies substituir.

Què esperes que digui algú d'aquí a un any?

— Que van deixar de pensar-hi. Que la pregunta "puc fer servir IA per a això?" ja no es fa al seu lloc de treball, perquè la resposta es veu a l'eina mentre treballes. I que el director financer sap què ha costat, fins al cèntim.

Dona'm alguna cosa concreta. Què fa la gent amb això, un dimarts qualsevol?

— El més divertit és que la resposta poques vegades és la que un espera. Tothom endevina "escriure textos". El que realment estalvia més temps és no haver de llegir. Reps una memòria anual de tres-centes pàgines, dius qui ets, i et retorna el que afecta el teu rol. O una licitació: adjunta-la juntament amb el que heu lliurat abans i pregunta directament si val la pena tres dies de feina. Ho vam provar amb un document que deliberadament no complia dos requisits obligatoris, i la resposta els va assenyalar exactament.

— Després tenim el cas dels contractes. Dues versions del mateix contracte de compra, on la part contrària ha eliminat una oració sobre la responsabilitat del personal i ha escurçat el període de garantia. Les dues coses van aparèixer. Aquest tipus de canvis se t'escapen quan llegeixes a les set del vespre.

I això de fotografiar coses?

— Aquesta és la funció que primer fa riure i després s'utilitza més. Fes una foto de la pissarra després de la reunió, demana un pla de projecte amb responsables. Fes una foto d'un document manuscrit del 1897, aconsegueix que s'interpreti amb les paraules incertes marcades. Fes una foto d'un manual en finès. Sembla una joguina fins que et trobes en un magatzem amb un aparell del qual no saps el nom i, per tant, no pots cercar.

Quina és la decepció més comuna?

— Que la gent demana xifres sense donar cap material. Aleshores el model pot inventar-se una font que sona totalment creïble. Vam provar de demanar arguments en contra d'un article d'opinió, i la resposta es basava en un informe que no existeix. El raonament era útil, les xifres eren inventades.

— Per això sempre dic el mateix: doneu-li un document. Amb material, les xifres són correctes. Sense material, és una conjectura ben formulada. Això no és una mancança d'EuroWork, s'aplica a tota la IA, però nosaltres tenim l'obligació de dir-ho en veu alta en comptes de deixar que la gent ho descobreixi en una reunió de la junta.

Darrera pregunta: què ha de fer qui llegeix això avui?

— Pregunta als teus companys què fan servir realment. No en un context formal, només pregunta. La resposta sol ser més del que pensaves, i sempre és millor saber-ho tu que assabentar-te'n per algú altre.

---

Sobre Rickard Eriksson

Va crear el 1996 el que es va convertir en LunarStorm, el primer mitjà social del món, amb milions d'usuaris anys abans que comencés Facebook. Juntament amb la seva empresa, ha format i desenvolupat l'ús de la IA en més de 7.000 empreses i organitzacions públiques escandinaves. Actualment dirigeix Skräddarsydd AB a Varberg i és fundador d'EuroWork.

El mateix principi llavors que ara: tecnologia que la gent normal realment fa servir, i té ganes d'obrir cada matí. L'empresa darrere de LunarStorm es deia LunarWorks. Aquesta construcció es diu EuroWork.

Es pot contactar a rickard@eurowork.ai.