Принцип чека: ШІ, який показує квитанції

Є одна фраза, яка раз у раз з’являється в маркетингу ШІ: «довіртеся нам». Модель безпечна, довіртеся нам. Дані не залишають Європи, довіртеся нам. Вартість розумна, довіртеся нам.

Ми не віримо в цю фразу. Не тому, що постачальники брешуть, а тому, що довіра, це не аргумент. Це надія. А організація, яка має звітувати перед радою директорів, аудитором чи наглядовим органом, не може пред’явити надію.

Тому ми будуємо EuroWork за іншим принципом, і він досить простий, щоб вміститися на чеку. Ми називаємо його принципом чека:

Кожного разу, коли ШІ щось робить для вас, має бути видно, що саме сталося, де це сталося, скільки це коштувало і хто дав дозвіл.

Не в річному звіті. Не на вимогу. Безпосередньо в інтерфейсі, поки триває робота.

Що означає принцип чека на практиці

Задайте запитання в EuroWork і подивіться під відповіддю. Там буде вказано, яка модель відповіла і чому саме вона, скільки коштувала відповідь у вашій валюті та де відбувалася обробка. Запустіть глибоке дослідження, і чек покаже кількість пошуків в інтернеті. Дозвольте колезі-ШІ виконувати регулярне завдання, кожен запуск залишатиме свій чек у списку: «коштувало кілька копійок». Інструмент для роботи з лідами позначає кожен контакт, вказуючи, чи він справді є в джерелі, чи це висновок, бо вгадана електронна адреса, яка виглядає як знайдена,, це брехня в табличному форматі.

Цей самий принцип діє і в масштабах організації. Власник бачить місячні витрати за категоріями та для кожного учасника, встановлює ліміти у власній валюті, і ці ліміти стримують реальні витрати, а не оцінки. Те, що створює ШІ, позначається як створене ШІ відповідно до статті 50 Регламенту про штучний інтелект. А де розташована кожна ланка ланцюга, аж до власника серверної зали, вказується відкрито.

Що принцип чека забороняє

Принцип має цінність лише тоді, коли щось коштує. Наш забороняє речі, які могли б бути вигідними.

Він забороняє кредити та ліміти на витрати, бо чек у вигаданій валюті, це не чек. Він забороняє керівникам бачити, про що співробітники запитують ШІ: власники бачать кількість, але ніколи зміст, бо нагляд, це протилежність тієї безпеки, яка змушує людей насправді користуватися інструментом. І він забороняє тихе навчання: коли колега-ШІ запам’ятовує щось, що ви сказали, цей рядок пам’яті з’являється у списку, який ви можете переглянути та видалити, і більше нічого.

Чому саме зараз

Галузь ШІ рухається до агентів: систем, які працюють самостійно, повертаються за розкладом і приймають невеликі рішення дорогою. Ми теж це будуємо, наш колега-ШІ бере завдання, запам’ятовує ваші вподобання і перепитує, коли сумнівається. Але чим самостійнішим стає ШІ, тим важливішими стають чеки. Помилкова відповідь асистента коштує роздратування. Агент, який працює неправильно мовчки, тиждень за тижнем, коштує довіри до всієї ідеї.

Тож коли хтось показує вам сервіс зі ШІ, не питайте, чи він хороший. Запитайте, скільки коштувала остання відповідь, де її обробляли і як ви могли б показати це своєму аудитору. Якщо отримаєте чек, ви знайшли те, що потрібно. Якщо почуєте «довіртеся нам», ви теж отримаєте відповідь.