Що таке галюцинація ШІ?

Галюцинація, це коли ШІ відповідає впевнено, але неправильно: вигадана цифра, неіснуюче джерело, абзац у договорі, якого там немає. Модель не бреше, вона просто робить те, що завжди: передбачає ймовірний текст, і іноді ймовірне не є правдивим.

Галюцинації неможливо повністю уникнути, але їх можна звести до мінімуму там, де це важливо. Три дієві засоби: джерела (нехай ШІ відповідає на основі конкретних матеріалів і показує, де саме це написано), маркування (відрізняйте те, що підтверджено джерелом, від висновків моделі) та перевірка (чернетки від ШІ залишаються чернетками, поки їх не схвалить людина).

Саме тому відповіді EuroWork у режимі «Глибоке дослідження» містять посилання на джерела, саме тому «Твій колега-ШІ» позначає кожен контакт як «підтверджено» або «виведено», і саме тому документи мають версії та процес затвердження. Не питайте ШІ-сервіс, чи галюцинує він, це роблять усі. Питайте, як побачити різницю, коли це станеться.