Засновник про тіньовий ШІ: всі це роблять, ніхто не говорить про це

Рікард Ерікссон — людина, яка 1996 року створила те, що стало LunarStorm, першим у світі соціальним медіа з мільйонами користувачів задовго до появи Facebook. Відтоді він і його компанія дали поштовх розвитку ШІ у понад 7 000 скандинавських компаній та організацій державного сектору, побачивши зблизька, що відбувається, коли технології випереджають правила.

Сьогодні він керує компанією Skräddarsydd AB у Варберзі та є засновником EuroWork. Ми сіли поговорити про те, чому він створив ШІ-робоче середовище для європейських організацій і чому вважає, що найважливіша функція — та, що показує, скільки коштує відповідь.

Ви кажете, що тіньовий ШІ — це справжня проблема. Що ви маєте на увазі?

— Те, що його вже використовують. На кожному робочому місці, яке я відвідую, є хтось, хто копіює чернетку в ChatGPT, щоб зробити її охайнішою. Часто таких людей кілька. Вони роблять це через свій особистий обліковий запис, бо саме його мають, і роблять це, щоб встигнути виконати свою роботу. Це не непокора, це амбіції.

Проблема в тому, що ніхто не знає, що саме було надіслано. А коли ніхто не знає, що було надіслано, ніхто не може відповісти на запитання, коли воно надійде.

Хто ставить це запитання?

— Рано чи пізно хтось інший, а не ви. Клієнт, який цікавиться, куди поділися його дані. Аудитор. Представник з охорони праці. Або журналіст, якщо не пощастить. І відповідати має не співробітник, а керівництво. Відповідь «у нас є політика» недостатньо, якщо ця політика — документ, який ніхто не читав, і ніщо його не забезпечує.

Але ж у більшості все ж таки є якісь правила?

— Багато хто має правило, яке забороняє. Це найгірший варіант, бо тоді використання продовжується, але стає невидимим. Проблему перенесли з некерованої в некеровану й таємну.

Я це чітко бачив на одному місці, де ШІ повністю заборонили. Всі все одно його використовували. Різниця була лише в тому, що тепер робили це з мобільного телефону замість робочого комп’ютера, щоб не було видно. Вийшло так, що ризик залишився тим самим, але його стало важче помітити.

І робоче та особисте життя змішуються?

— Так, і саме цю частину люди недооцінюють. Коли хтось використовує свій особистий обліковий запис, робочі матеріали опиняються на рахунку, який не належить роботодавцю. Людина змінює роботу — і матеріали переходять разом із нею. Людина втрачає пароль — і ніхто не може нічого дістати. А в історії листування опиняються і пропозиція для клієнта, і запитання про вибір школи для дитини — в одному ланцюжку, у постачальника по той бік Атлантики.

Це не зла воля з чийогось боку. Це просто те, що відбувається, коли не дати людям інструмент, який є їхнім робочим інструментом.

Тож EuroWork — це альтернатива?

— EuroWork — це спроба зробити законний варіант найпростішим. У цьому вся ідея. Якщо безпечний спосіб складніший за небезпечний, то безпечний програє щоразу, в кожній організації, незалежно від того, що сказав керівник на нараді.

Що конкретно має зробити його простішим?

— Те, що він виглядає так, як люди вже звикли. Пишеш запитання — отримуєш відповідь. Ніхто не має проходити курс, щоб почати. Різниця в деталях: відповіді обробляються в Європі за замовчуванням, вміст ніколи не використовується для навчання жодної моделі, і це вказано під кожною відповіддю, щоб не шукати в договорі.

А вартість?

— Це моя особиста пристрасть. Ніхто інший не показує, скільки коштує відповідь. Купуєш ліцензію — і тиша, аж поки фінансовий відділ не побачить загальну суму наступного місяця.

У нас ціна вказана до того, як надіслати запитання. Збалансована відповідь від європейської моделі коштує кілька копійок. Якщо вибереш американську топ-модель, те саме запитання коштуватиме кілька десятків копійок. Немає нічого поганого в тому, щоб вибрати дорожчий варіант — іноді він того вартий, але ти маєш знати про це до, а не після.

Чому вас так хвилює саме ця деталь?

— Бо це чесна версія того, що продають. Усі кажуть, що вони прозорі. Дуже мало хто показує цифру, яку можна використати проти них. Я хочу, щоб фінансовий директор міг сидіти з нашим сервісом і рахувати, а не вгадувати.

Ви також створюєте режим агентів. Хіба це не протилежність контролю?

— Саме цього я й боявся. Тому за замовчуванням ШІ запитує дозволу перед тим, як щось зробити. Ти ставиш мету, вона пропонує план поетапно, і ти підтверджуєш кожен крок, бачиш, який інструмент буде використано і чому. Усе потрапляє до журналу аудиту.

Я вважаю, що саме цей перемикач вирішує, чи зможе громада використовувати агентів, чи ні. Можливості є в усіх уже зараз. Чого бракує — це доказу, хто сказав «так».

Що найскладніше в створенні цього?

— Утриматися. Щотижня з’являється десять речей, які можна було б додати, і дев’ять із них погіршать продукт, бо зроблять його складнішим для розуміння. Той, хто додає все, врешті-решт отримує те, що вимагає консультанта для запуску, а тоді створює саме те, що хотів замінити.

На що ви сподіваєтеся, щоб хтось сказав через рік?

— Що вони перестали про це думати. Щоб запитання «чи можна використовувати ШІ для цього?» більше не ставили на їхньому робочому місці, бо відповідь видно в інструменті під час роботи. І щоб фінансовий директор знав, скільки це коштувало, до копійки.

Дайте щось конкретне. Що люди роблять з цим у звичайний вівторок?

— Найцікавіше те, що відповідь рідко буває такою, як очікують. Усі думають про «написання текстів». Насправді найбільше часу економить те, що не треба читати. Отримуєш річний звіт на триста сторінок, вказуєш, хто ти, і отримуєш назад те, що стосується саме твоєї ролі. Або запит на тендер: додаєш його разом із тим, що ви постачали раніше, і питаєш прямо, чи варто витрачати три дні роботи. Ми спробували це з матеріалом, який свідомо не відповідав двом обов’язковим вимогам, і відповідь вказала саме на них.

— Потім є випадок з договорами. Дві версії одного й того самого договору купівлі, де контрагент прибрав підрядок про відповідальність за персонал і скоротив термін гарантії. Обидва моменти були виявлені. Такі зміни легко пропустити під час читання о сьомій вечора.

А те, що фотографують речі?

— Це функція, над якою спочатку сміються, а потім використовують найбільше. Сфотографуй фліпчарт після наради — отримай план проєкту з відповідальними особами. Сфотографуй рукописний документ 1897 року — отримай його розшифровку з позначеними незрозумілими словами. Сфотографуй інструкцію фінською. Звучить як іграшка, поки не опинишся на складі з річчю, назви якої не знаєш, і тому не можеш її знайти.

Яке найпоширеніше розчарування?

— Те, що люди просять цифри без жодних матеріалів. Тоді модель може вигадати джерело, яке звучить абсолютно правдоподібно. Ми спробували попросити контраргументи до статті в дебатах, і відповідь базувалася на звіті, якого не існує. Міркування були корисними, цифри — вигаданими.

— Тому я завжди кажу одне й те саме: дайте їй документ. З матеріалами цифри будуть правильними. Без матеріалів це добре сформульована здогадка. Це не недолік EuroWork, це стосується всього ШІ, але ми зобов’язані говорити про це вголос, а не дозволяти людям дізнатися про це на засіданні ради.

Останнє запитання: що має зробити той, хто це читає, сьогодні?

— Запитайте своїх колег, що вони насправді використовують. Не в офіційній обстановці, просто запитайте. Відповідь зазвичай буває більшою, ніж очікували, і завжди краще знати це самому, ніж дізнатися від когось іншого.

---

Про Рікарда Ерікссона

Створив 1996 року те, що стало LunarStorm — першим у світі соціальним медіа з мільйонами користувачів за роки до запуску Facebook. Разом зі своєю компанією навчав і розвивав використання ШІ у понад 7 000 скандинавських компаній та організацій державного сектору. Сьогодні керує компанією Skräddarsydd AB у Варберзі та є засновником EuroWork.

Той самий принцип, що й раніше: технології, які звичайні люди насправді використовують і з нетерпінням чекають на них щоранку. Компанія, що стояла за LunarStorm, називалася LunarWorks. Ця будівля називається EuroWork.

Зв’язатися можна за адресою rickard@eurowork.ai.