Što je RAG?

RAG znači retrieval-augmented generation, a unatoč nazivu, ideja je jednostavna: umjesto da AI odgovara iz svog uvježbanog pamćenja, prvo joj omogućite da pretraži određeni materijal, vaše dokumente, priručnik za zaposlenike, procedure, i zatim odgovori na temelju onoga što je pronašla.

Razlika je kao između zamjenskog radnika koji pogađa i onog koji prvo pročita priručnik. Bez pretrage model odgovara prosječnim internetskim odgovorom: razumno, ali ne i vaše. Uz pretragu odgovor može glasiti „prema vašoj politici, iznos naknade za zdravstvenu zaštitu je X kuna“ i pokazati gdje to piše.

RAG je i iskren odgovor na pitanje „može li AI naučiti naš materijal?“. On ništa ne uči u smislu treniranja, materijal ostaje kod vas, i upravo je to poanta: ono što treba zaboraviti može se izbrisati, a ono što se odgovori može pratiti do izvora.

U EuroWorku je RAG svakodnevica iza kulisa: knjižnica znanja, izvornik specijalista i pretraga dokumenata temelje se na pretrazi prije odgovora.