Шта је халуцинација вештачке интелигенције?

Халуцинација је када вештачка интелигенција одговара самоуверено, али погрешно: број који никада није постојао, извор који не постоји, пасус у уговору који тамо није написан. Модел не лаже, он ради оно што увек ради, предвиђа вероватан текст, а понекад вероватно није исто што и истинито.

Халуцинације се не могу потпуно искључити, али се могу смањити у ономе што је заиста важно. Три решења функционишу: извори (пустите вештачку интелигенцију да одговара из одређеног материјала и покаже где је то написано), ознаке (раздвојите оно што је поткрепљено извором од онога што је закључак модела) и преглед (нацрти вештачке интелигенције су нацрти док их човек не одобри).

Зато одговори у дубоком истраживању у EuroWork-у повезују своје изворе, зато АИ колега за генерисање потенцијалних клијената означава сваки контакт као "потврђено" или "изведено", а зато документи имају верзије и ток одобрења. Никада не питајте услугу вештачке интелигенције да ли халуцинира, то раде све. Питајте како да уочите разлику када се то догоди.