Kvitovací princip: AI, která ukazuje účtenky

V současné AI reklamě se neustále opakuje jedna věta: "Věřte nám." Model je bezpečný, věřte nám. Data neopouštějí Evropu, věřte nám. Cena je rozumná, věřte nám.

My té větě nevěříme. Ne proto, že by dodavatelé lhali, ale protože důvěra není argument. Je to jen naděje. A firma, která musí odpovídat představenstvu, auditorovi nebo dozorovému orgánu, nemůže předložit jen naději.

Proto stavíme EuroWork na jiném principu, který je tak jednoduchý, že se vejde na účtenku. Říkáme mu kvitovací princip:

Pokaždé, když za vás AI něco udělá, musí být vidět, co se stalo, kde se to stalo, kolik to stálo a kdo to schválil.

Ne v roční zprávě. Ne na vyžádání. Přímo v rozhraní, zatímco práce probíhá.

Co v praxi kvitovací princip znamená

Zeptejte se v EuroWork a podívejte se pod odpověď. Uvidíte, který model odpověděl a proč zrovna ten, kolik odpověď stála ve vaší měně a kde ke zpracování došlo. Spusťte Hluboký výzkum a účtenka ukáže počet prohledaných webů. Nechte AI kolegu opakovaně plnit úkol a každé spuštění zanechá svou účtenku v seznamu: "stálo 4 haléře". Nástroj na získávání leadů označí každý kontakt podle toho, zda skutečně stojí ve zdroji, nebo jde o závěr, protože odhadnutý e-mail, který vypadá jako nalezený, je lež v tabulkové podobě.

Stejný princip platí i ve velkém. Vlastník organizace vidí měsíční náklady podle typu a člena, nastavuje limity ve své měně a limit brzdí skutečné náklady, ne odhady. To, co AI vytvoří, je označeno jako výstup AI podle článku 50 nařízení o umělé inteligenci. A kde se nachází každá část řetězce, až po vlastníka serverovny, je uvedeno otevřeně.

Co kvitovací princip zakazuje

Princip má cenu jen tehdy, když něco stojí. Náš zakazuje věci, které by byly výnosné.

Zakazuje kredity a spotřební konta, protože účtenka v umělé měně není žádná účtenka. Zakazuje, aby šéfové viděli, na co se zaměstnanci AI ptají: vlastníci vidí počty, nikdy obsah, protože dohled je opakem té bezpečnosti, která lidi povzbuzuje, aby nástroj opravdu používali. A zakazuje tiché učení: když si AI kolega něco zapamatuje, co jste řekli, řádek s pamětí se objeví v seznamu, který si můžete přečíst a smazat. Nic jiného.

Proč právě teď

AI obor směřuje k agentům: systémům, které pracují samostatně, vracejí se podle plánu a cestou přijímají drobná rozhodnutí. I my to stavíme, náš AI kolega plní úkoly, pamatuje si, co se vám líbí, a ptá se, když si není jistý. Ale čím samostatnější AI je, tím důležitější jsou účtenky. Asistent, který odpoví špatně, stojí jen podráždění. Agent, který pracuje špatně potichu, týden co týden, stojí důvěru v celou myšlenku.

Když vám tedy někdo ukáže AI službu, neptejte se, jestli je dobrá. Zeptejte se, kolik stála poslední odpověď, kde se zpracovávala a jak byste to ukázali svému auditorovi. Dostanete-li účtenku, našli jste to pravé. Dostanete-li "věřte nám", víte také, na čem jste.