Embedding (jelentésvektor)
Röviden
Az embedding egy szöveg, kép vagy más tartalom jelentését leíró számsor (vektor), amelyet egy erre tanított modell állít elő. Két embedding távolsága megmutatja, mennyire hasonló a két tartalom jelentése, ezért a gépi keresés és csoportosítás alapja.
Az embedding-modell minden szövegrészhez több száz vagy több ezer számból álló vektort rendel. A hasonló jelentésű szövegek vektorai közel kerülnek egymáshoz, akkor is, ha más szavakat használnak, vagy más nyelven íródtak. Erre épül a jelentés szerinti keresés, a hasonló tartalmak csoportosítása, az ismétlődések kiszűrése, az ajánlórendszerek és a RAG is.
Példa a gyakorlatból
Egy szolgáltató cég évente több ezer ügyfélpanaszt kap szabad szöveges formában. Az embeddingek alapján a panaszok automatikusan témacsoportokba rendeződnek (szállítási késés, számlázási hiba, termékhiba), így a vezetés látja, mely problémák a leggyakoribbak, anélkül hogy valakinek minden levelet el kellene olvasnia.
Mikor nem ez a jó választás?
Az embedding-modellek minősége nyelvenként eltér, ezért magyar szövegnél érdemes a választott modellt valós céges adatokon tesztelni. Ha később modellt kell váltani, az összes tartalmat újra kell kódolni, mert a különböző modellek vektorai nem hasonlíthatók össze. Az embedding nem magyarázza meg, miért tart két szöveget hasonlónak, így ahol indoklás kell, kiegészítő megoldásra van szükség.
Hogyan dolgozunk vele a Composite-nál?
Többnyelvű embedding-modellt választunk, és a döntés előtt a cég saját magyar nyelvű dokumentumain mérjük a keresési találatok minőségét. A modell nevét és verzióját minden vektor mellett tároljuk, hogy egy későbbi csere tervezhető legyen.
Kapcsolódó fogalmak
- VektoradatbázisA vektoradatbázis olyan adatbázis, amely szövegek, képek vagy más tartalmak jelentését számvektorként (embeddingként) tárolja, így jelentésbeli hasonlóság alapján lehet keresni benne. Jellemzően a RAG-rendszerek tudástáraként szolgál.
- RAG (Retrieval-Augmented Generation)A RAG (Retrieval-Augmented Generation) olyan módszer, amelyben a nyelvi modell a válasz megírása előtt kikeresi a releváns részeket a cég saját dokumentumaiból, és ezekre támaszkodva, forrásmegjelöléssel válaszol, a modell újratanítása nélkül.