El principi del rebut: IA que mostra els comprovants

Hi ha una frase que es repeteix en gairebé tot el màrqueting d'IA actualment: "confia en nosaltres". El model és segur, confia en nosaltres. Les dades no surten d'Europa, confia en nosaltres. El cost és raonable, confia en nosaltres.

Nosaltres no creiem en aquesta frase. No perquè els proveïdors menteixin, sinó perquè la confiança no és un argument. És una esperança. I una organització que ha de respondre davant d'una junta, un auditor o una autoritat de supervisió no pot presentar una esperança.

Per això construïm EuroWork seguint un altre principi, i és prou senzill per cabre en un rebut. L'anomenem el principi del rebut:

Cada vegada que la IA fa alguna cosa per tu, ha de ser possible veure què ha passat, on ha passat, què ha costat i qui ho ha aprovat.

No en un informe anual. No a petició. Directament, a la interfície, mentre el treball està en curs.

Què significa el principi del rebut en la pràctica

Fes una pregunta a EuroWork i mira sota la resposta. Hi diu quin model ha respost i per què aquest, què ha costat la resposta en la teva moneda i on s'ha processat. Executa una Recerca profunda i el rebut mostra el nombre de cerques web. Deixa que el company IA executi una tasca recurrent i cada execució deixa el seu rebut a la llista: "ha costat 4 cèntims". La màquina de leads marca cada dada de contacte amb si realment apareix a la font o és una conclusió, perquè un correu electrònic endevinat que sembla trobat és una mentida en format de taula.

El mateix principi s'aplica a gran escala. Els propietaris de l'organització veuen el cost mensual per tipus i per membre, estableixen límits en la seva pròpia moneda, i el límit frena costos reals, no estimacions. El que crea la IA està marcat com a creat per IA segons l'article 50 del Reglament d'IA. I on es troba cada part de la cadena, fins a qui és el propietari del centre de dades, es mostra obertament.

Què prohibeix el principi del rebut

Un principi només val alguna cosa si té un cost. El nostre prohibeix coses que haurien estat rendibles.

Prohibeix crèdits i pots de consum, perquè un rebut en una moneda inventada no és un rebut. Prohibeix que els caps vegin què pregunten els treballadors a la IA: els propietaris veuen quantitats, mai el contingut, perquè la vigilància és el contrari de la seguretat que fa que la gent realment utilitzi l'eina. I prohibeix l'aprenentatge silenciós: quan el company IA recorda alguna cosa que has dit, la línia de memòria apareix en una llista que pots llegir i esborrar, res més.

Per què ara

El sector de la IA avança cap a agents: sistemes que treballen de manera autònoma, es repeteixen segons un horari i prenen petites decisions pel camí. Nosaltres també construïm això, el nostre company IA assumeix tasques, recorda el que t'agrada i pregunta quan té dubtes. Però com més autònoma es torna la IA, més importants són els rebuts. Un assistent que respon malament costa una molèstia. Un agent que treballa malament en silenci, setmana rere setmana, costa la confiança en tota la idea.

Així que quan algú et mostri un servei d'IA, no preguntis si és bo. Pregunta què ha costat l'última resposta, on s'ha processat i com ho mostraries al teu auditor. Si et donen un rebut, has trobat el que buscaves. Si et diuen "confia en nosaltres", ja saps la resposta.