Mi is az az embedding?

Az embedding egy számokból álló lista, amely megragadja, hogy egy szövegrészlet mit jelent, nem csak azt, hogy milyen szavakat tartalmaz. Két szöveg, amely ugyanarról szól, például „szabadságpénz” és „fizetett szabadság”, , közel kerül egymáshoz ezekben a számokban, még akkor is, ha egyetlen közös szavuk sincs.

Ez az a technika, amely lehetővé teszi, hogy a keresés ne csak szóillesztés legyen, hanem valódi megértés. Amikor azt kérdezed: „mi a szabály, ha szabadságon vagyok?”, a rendszer megtalálja a szabályzat azon részét, amely a szabadságról szól, pedig a kérdésedben nem is szerepelt a „szabadság” szó.

A gyakorlatban az embeddingeket indexként használják: a dokumentumokat részekre bontják, minden részhez hozzárendelik a számokat, és amikor kérdés érkezik, összehasonlítják a kérdés embeddingjeit a részek embeddingjeivel. A legközelebbi találatokat továbbítják a nyelvi modellnek alapanyagként. Így működik az EuroWork tudásbázisa és dokumentumkeresője, amely megtalálja a megfelelő szakaszt egy száz oldalas kézikönyvben, és az indexelés költsége, mint minden más, megjelenik a költséglogban.