Human-in-the-loop (emberi jóváhagyás)
Röviden
A human-in-the-loop olyan munkafolyamat-kialakítás, amelyben az AI előkészíti a munkát vagy javaslatot tesz, de a kritikus lépéseknél, például küldés, fizetés vagy szerződéskötés előtt, egy felelős ember ellenőriz és hagy jóvá.
Az emberi kontroll többféle lehet: minden kimenet jóváhagyása, csak a bizonytalan vagy szokatlan esetek átadása, illetve utólagos szúrópróbás ellenőrzés. A megfelelő formát a hiba következménye határozza meg: egy belső összefoglalónál elég a szúrópróba, egy ügyfélnek kimenő ajánlatnál vagy utalásnál előzetes jóváhagyás kell. Az EU AI Act a magas kockázatú AI-rendszereknél kifejezetten előírja a hatékony emberi felügyeletet.
Példa a gyakorlatból
Egy könyvelőiroda AI-val párosítja a bankszámlakivonat tételeit a nyitott számlákkal. Az egyértelmű egyezéseket a rendszer automatikusan rögzíti, a bizonytalanokat (eltérő összeg, hiányzó közlemény) viszont a könyvelő elé teszi, a javasolt párosítással és annak indoklásával együtt. A könyvelő idejét így a valóban döntést igénylő tételek kötik le.
Mikor nem működik?
Ha a jóváhagyó ember rutinszerűen, érdemi ellenőrzés nélkül fogad el mindent, a védelem csak látszólagos. Ha túl sok a jóváhagyási pont, elvész az automatizálás haszna. Nagy volumenű, alacsony kockázatú feladatoknál a folyamatos jóváhagyás helyett elég a szúrópróba és a hibaarány figyelése.
Hogyan dolgozunk vele a Composite-nál?
A jóváhagyási pontokat a hibák következményei alapján jelöljük ki, és a jóváhagyó felületen az AI javaslata mellett a forrását és az indoklását is megmutatjuk. Minden döntést naplózunk, így utólag is látszik, ki mit hagyott jóvá.
Kapcsolódó fogalmak
- AI ügynökAz AI ügynök olyan szoftver, amely egy nagy nyelvi modellre építve önállóan megtervezi és végrehajtja egy több lépésből álló feladat lépéseit, közben külső eszközöket és rendszereket (például CRM-et, e-mailt, adatbázist) használ, a kritikus pontokon pedig emberi jóváhagyást kér.
- HallucinációA hallucináció az a jelenség, amikor egy nyelvi modell magabiztos, hihetőnek tűnő, de valótlan vagy forrással alá nem támasztott állítást fogalmaz meg, például nem létező hivatkozást, számadatot vagy jogszabályhelyet.
- EU AI Act (MI-rendelet)Az EU AI Act, vagyis az (EU) 2024/1689 rendelet, az Európai Unió mesterséges intelligenciáról szóló rendelete, amely a kockázat szintje szerint ír elő kötelezettségeket az AI-rendszerek fejlesztőinek, forgalmazóinak és alkalmazóinak. 2024. augusztus 1-jén lépett hatályba, és fokozatosan alkalmazandó.