Finomhangolás (fine-tuning)
Röviden
A finomhangolás (fine-tuning) egy már betanított nyelvi modell továbbtanítása saját, célzott példákon, hogy egy szűk feladatban, például adott stílusban, kimeneti formátumban vagy szakterületen pontosabban és megbízhatóbban teljesítsen.
Finomhangoláskor a modellt bemenet és elvárt kimenet párokból álló példákon tanítják tovább, jellemzően több száz vagy több ezer ilyen páron. Ez a modell belső súlyait módosítja, vagyis a modell viselkedése változik meg tartósan. A különbség a RAG-hoz képest lényeges: a finomhangolás azt tanítja meg, hogyan válaszoljon a modell, a RAG pedig azt adja meg, miből válaszoljon.
Példa a gyakorlatból
Egy nagy termékkínálatú kereskedő több ezer termékleírást készít, szigorú belső stílus és felépítés szerint. Egy kisebb, finomhangolt modell a cég korábbi, jóváhagyott leírásain tanulva egyenletesebben hozza a kívánt formát, mint egy általános modell, és tömeges használat mellett olcsóbb is lehet.
Mikor nem ez a jó választás?
Gyakran változó tények (árak, készlet, szabályzatok) megtanítására a finomhangolás alkalmatlan, mert minden változásnál újra kellene tanítani a modellt; erre a RAG való. A módszerhez jó minőségű, ellenőrzött példák kellenek, és ha az alapmodellből új verzió jelenik meg, a tanítást meg kell ismételni. A legtöbb céges feladatnál jól megírt prompt és RAG együtt is elegendő.
Hogyan dolgozunk vele a Composite-nál?
Először prompttal és RAG-gal építjük meg a megoldást, és mérjük az eredményt. Finomhangolást csak akkor javaslunk, ha a mérés olyan hiányosságot mutat, amelyet ezek nem oldanak meg, vagy ha a tömeges futtatás költsége ezt indokolja.
Kapcsolódó fogalmak
- RAG (Retrieval-Augmented Generation)A RAG (Retrieval-Augmented Generation) olyan módszer, amelyben a nyelvi modell a válasz megírása előtt kikeresi a releváns részeket a cég saját dokumentumaiból, és ezekre támaszkodva, forrásmegjelöléssel válaszol, a modell újratanítása nélkül.
- Prompt engineeringA prompt engineering a nyelvi modellnek adott utasítások (promptok) tudatos megtervezése, tesztelése és karbantartása annak érdekében, hogy a modell kimenete pontos, ellenőrizhető, megfelelő formátumú és ismételten is egyenletes minőségű legyen.
- Nagy nyelvi modell (LLM)A nagy nyelvi modell (LLM, Large Language Model) óriási szövegmennyiségen tanított neurális hálózat, amely képes szöveget értelmezni, összefoglalni, fordítani és új szöveget létrehozni. Ismert példái a Claude, a GPT és a Gemini modellcsaládok.