Засновник про тіньовий ШІ: всі це роблять, ніхто не говорить про це

Рікард Ерікссон — той самий чоловік, який 1996 року створив те, що стало LunarStorm, першим у світі соціальним медіа з мільйонами користувачів задовго до появи Facebook. Відтоді він і його компанія дали поштовх розвитку ШІ у понад 7 000 скандинавських компаній та організацій державного сектору, бачили зблизька, що відбувається, коли технології з’являються раніше за правила.

Сьогодні він керує своєю освітньою компанією у Варберзі та є засновником EuroWork. Ми сіли поговорити про те, чому він створив робоче місце з ШІ для європейських організацій і чому вважає, що найважливіша функція — це та, що показує, скільки коштує відповідь.

Ти кажеш, що тіньовий ШІ — це справжня проблема. Що ти маєш на увазі?

— Те, що його вже використовують. На кожному робочому місці, яке я відвідую, є хтось, хто копіює чернетку в ChatGPT, щоб зробити її акуратнішою. Часто таких людей кілька. Вони роблять це через свій особистий акаунт, бо він у них був, і роблять це, щоб встигнути виконати свою роботу. Це не непокора, це амбіції.

Проблема в тому, що ніхто не знає, що саме вийшло назовні. А коли ніхто не знає, що вийшло, ніхто не зможе відповісти на запитання, коли воно надійде.

Хто ставить це запитання?

— Рано чи пізно хтось інший, а не ти. Клієнт, який цікавиться, куди поділися його дані. Аудитор. Представник з охорони праці. Або журналіст, якщо не пощастить. І тоді відповідати має не співробітник, а керівництво. Відповісти «у нас є політика» недостатньо, якщо ця політика — документ, який ніхто не читав, і ніщо його не забезпечує.

Але ж у більшості все-таки є якісь правила?

— У багатьох є правило, яке каже «ні». Це найгірший варіант, бо тоді використання продовжується, але стає невидимим. Проблему перенесли з некерованої в некеровану й таємну.

Я це чітко бачив на одному місці, де ШІ взагалі заборонили. Всі його все одно використовували. Різниця була лише в тому, що тепер вони робили це на телефоні, а не на робочому комп’ютері, щоб не було видно. Вийшло так, що ризик залишився тим самим, але його стало важче помітити.

І робоче та особисте життя змішуються?

— Так, і саме цю частину люди недооцінюють. Коли хтось використовує свій особистий акаунт, робочі матеріали опиняються на обліковому записі, який не належить роботодавцю. Людина змінює роботу — і матеріали йдуть за нею. Людина втрачає пароль — і ніхто не може нічого дістати. А в історії листування лежать і пропозиція для клієнта, і запитання про вибір школи для дитини, в одному ланцюжку, у постачальника по той бік Атлантики.

Це не зла воля з чийогось боку. Це просто те, що відбувається, коли не дати людям інструмент, який є їхнім робочим інструментом.

То EuroWork — це альтернатива?

— EuroWork — це спроба зробити легальний варіант найпростішим. Це вся ідея. Якщо безпечний спосіб складніший за небезпечний, то безпечний програє щоразу, в кожній організації, незалежно від того, що сказав керівник на нараді.

Що конкретно має зробити його простішим?

— Те, що він виглядає так, як люди вже звикли. Пишеш запитання — отримуєш відповідь. Ніхто не має проходити курс, щоб почати. Різниця — в тому, що навколо: відповіді обробляються в Європі за замовчуванням, вміст ніколи не використовується для навчання жодної моделі, і це написано під кожною відповіддю, щоб не шукати в договорі.

А вартість?

— Це моя особиста пристрасть. Ніхто більше не показує, скільки коштує відповідь. Купуєш ліцензію — і тиша, а потім через місяць бухгалтерія бачить загальну суму.

У нас ціна вказана перед тим, як надіслати запитання. Збалансована відповідь від європейської моделі коштує кілька копійок. Якщо вибереш американську топ-модель, те саме запитання коштуватиме вже кілька десятків копійок. Немає нічого поганого в тому, щоб вибрати дорожчу, іноді вона того варта, але ти маєш знати про це до, а не після.

Чому тобі так важлива саме ця деталь?

— Бо це чесна версія того, що продають. Усі кажуть, що вони прозорі. Дуже мало хто показує цифру, яку можна використати проти них. Я хочу, щоб фінансовий директор міг сидіти з нашим сервісом і рахувати, а не вгадувати.

Ви також будуєте режим агента. Хіба це не протилежність контролю?

— Саме цього я й боявся. Тому за замовчуванням ШІ запитує, перш ніж щось робити. Ти ставиш мету, вона пропонує план поетапно, і ти підтверджуєш кожен крок, бачиш, який інструмент буде використано і чому. Усе потрапляє до журналу перевірок.

Я вважаю, що саме цей перемикач вирішує, чи зможе громада використовувати агентів, чи ні. Можливості є в усіх уже зараз. Чого бракує — так це доказу, хто сказав «так».

Що найскладніше у створенні цього?

— Утриматися. Щотижня з’являється десять речей, які можна було б зробити, і дев’ять із них погіршать продукт, бо зроблять його складнішим для розуміння. Той, хто додає все, врешті-решт отримує те, що вимагає консультанта для запуску, а тоді виходить саме те, що хотіли замінити.

На що ти сподіваєшся, що хтось скаже через рік?

— Що вони перестали про це думати. Що запитання «чи можна використовувати ШІ для цього?» більше не ставлять на їхньому робочому місці, бо відповідь видно в інструменті під час роботи. І що фінансовий директор знає, скільки це коштувало, до копійки.

Дай щось конкретне. Що люди роблять з цим звичайного вівторка?

— Найцікавіше те, що відповідь рідко буває такою, як очікуєш. Усі думають про «писати тексти». Насправді найбільше часу економить те, що не треба читати. Отримуєш річний звіт на триста сторінок, кажеш, хто ти, і тобі повертають те, що стосується саме твоєї ролі. Або запит на тендер: додаєш його разом з тим, що ви робили раніше, і питаєш прямо, чи варто витрачати три дні роботи. Ми спробували це з матеріалом, який свідомо не відповідав двом обов’язковим вимогам, і відповідь вказала саме на них.

— Потім є випадок з договорами. Дві версії одного договору купівлі, де контрагент прибрав підрядне речення про відповідальність за персонал і скоротив гарантійний термін. Обидва моменти виявили. Такі зміни легко пропустити, коли читаєш о сьомій вечора.

А те, що фотографувати речі?

— Це функція, над якою спочатку сміються, а потім використовують найбільше. Сфотографуй фліпчарт після зустрічі, попроси скласти план проєкту з відповідальними. Сфотографуй рукописний документ 1897 року, отримай його розшифровку з позначеними незрозумілими словами. Сфотографуй інструкцію фінською. Звучить як іграшка, поки не опинишся на складі з річчю, назви якої не знаєш, і тому не можеш її знайти.

Яке найчастіше розчарування?

— Те, що люди просять цифри без жодних матеріалів. Тоді модель може вигадати джерело, яке звучить абсолютно переконливо. Ми спробували попросити контраргументи до статті для дискусії, і відповідь базувалася на звіті, якого не існує. Міркування були корисними, цифри — вигаданими.

— Тому я завжди кажу одне й те саме: дайте їй документ. З матеріалами цифри будуть правильними. Без матеріалів це добре сформульована здогадка. Це не недолік EuroWork, це стосується всього ШІ, але ми зобов’язані говорити про це вголос, а не дозволяти людям дізнатися про це на засіданні ради.

Останнє запитання: що має зробити той, хто це читає, вже сьогодні?

— Запитай у колег, що вони насправді використовують. Не в офіційній обстановці, просто запитай. Відповідь зазвичай буває більшою, ніж очікував, і завжди краще знати це самому, ніж дізнатися від когось іншого.

---

Про Рікарда Ерікссона

Створив 1996 року те, що стало LunarStorm, першим у світі соціальним медіа з мільйонами користувачів за роки до запуску Facebook. Разом зі своєю компанією навчав і розвивав використання ШІ у понад 7 000 скандинавських компаній та організацій державного сектору. Сьогодні керує своєю освітньою компанією у Варберзі та є засновником EuroWork.

Той самий принцип тоді й зараз: технології, які звичайні люди насправді використовують і з нетерпінням чекають відкрити щоранку. Компанія, що стояла за LunarStorm, називалася LunarWorks. Ця будівля називається EuroWork.

Зв’язатися можна за адресою rickard@eurowork.ai.