Princip računa: AI koji pokazuje potvrdu

Postoji jedna rečenica koja se ponavlja u gotovo svim marketinškim materijalima o AI-u ovih dana: "vjerujte nam". Model je siguran, vjerujte nam. Podaci ne napuštaju Evropu, vjerujte nam. Cijena je razumna, vjerujte nam.

Mi ne vjerujemo u tu rečenicu. Ne zato što dobavljači lažu, već zato što povjerenje nije argument. To je nada. A organizacija koja mora odgovarati odboru, revizoru ili nadzornom tijelu ne može pokazati nadu.

Zato gradimo EuroWork na drugom principu, dovoljno jednostavnom da stane na račun. Zovemo ga princip računa:

**Svaki put kada AI nešto učini za vas, trebalo bi biti jasno šta se dogodilo, gdje se dogodilo, koliko je koštalo i ko je rekao da.

Ne u godišnjem izvještaju. Ne na zahtjev. Direktno, u sučelju, dok se posao obavlja.

Šta princip računa znači u praksi

Postavite pitanje u EuroWorku i pogledajte ispod odgovora. Tamo piše koji je model odgovorio i zašto baš taj, koliko je odgovor koštao u vašoj valuti i gdje je obrada izvršena. Pokrenite Dubinsko istraživanje i račun pokazuje broj pretraga na webu. Pustite AI kolegu da izvrši ponavljajući zadatak i svako izvršenje ostavlja svoj račun u listi: "koštalo je nekoliko lipa". Alat za upravljanje kontaktima označava svaki kontakt podatak da li stvarno stoji u izvoru ili je zaključak, jer pogođena e-adresa koja izgleda kao da je pronađena zapravo je laž u obliku tabele.

Isti princip vrijedi i za veće stvari. Vlasnik organizacije vidi mjesečne troškove po vrsti i po članu, postavlja limit u svojoj valuti, a limit zaustavlja stvarne troškove, a ne procjene. Ono što AI stvori označeno je kao AI-stvoreno prema članku 50. Uredbe o AI-u. I gdje se svaki dio lanca nalazi, sve do vlasnika servera, otvoreno je navedeno.

Šta princip računa zabranjuje

Princip vrijedi samo ako nešto košta. Naš zabranjuje stvari koje bi bile unosne.

Zabranjuje kredite i potrošačke fondove, jer račun u izmišljenoj valuti nije račun. Zabranjuje da šefovi vide o čemu zaposlenici pitaju AI: vlasnici vide broj, nikad sadržaj, jer nadzor je suprotnost onoj sigurnosti koja navodi ljude da stvarno koriste alat. I zabranjuje tiho učenje: kada AI kolega zapamti nešto što ste rekli, redak sjećanja stoji u listi koju možete pročitati i izbrisati, ništa drugo.

Zašto baš sada

AI industrija se kreće ka agentima: sistemima koji rade samostalno, vraćaju se po rasporedu i donose male odluke usput. I mi to gradimo, naš AI kolega preuzima zadatke, pamti šta vam se sviđa i pita kada nije siguran. Ali što je AI samostalniji, to su računi važniji. Asistent koji pogreši košta iritaciju. Agent koji radi pogrešno u tišini, sedmicu za sedmicom, košta povjerenje u cijelu ideju.

Zato, kada vam neko pokaže AI uslugu, nemojte pitati da li je dobra. Pitajte koliko je koštao prošli odgovor, gdje je obrađen i kako biste to pokazali svom revizoru. Ako dobijete račun, našli ste pravo rješenje. Ako dobijete "vjerujte nam", znate i odgovor.