Mit jelent jogilag az emberi felügyelet az AI Act 14. cikke szerint?
A 14. cikk nem azt követeli, hogy legyen ember a folyamatban, hanem hogy a rendszer tervezésileg tegye lehetővé a tényleges felügyeletet. A felügyelő személynek értenie kell a rendszer korlátait, tudatában kell lennie az automatizálási elfogultságnak, és valós joga kell legyen a kimenet felülbírálására, figyelmen kívül hagyására vagy a rendszer leállítására.
Az öt funkcionális képesség, amelyet a 14. cikk (4) a felügyeletet ellátó személy számára megkövetel: a rendszer képességeinek és korlátainak megértése; az automatizálási elfogultság — vagyis a kimenetben való automatikus megbízás hajlamának — tudatosítása; a kimenet helyes értelmezése; a döntés, hogy nem használja a rendszert vagy felülbírálja a kimenetet; végül a beavatkozás vagy leállítás lehetősége biztonságos állapotban.
Innen ered a különbség a látszat és a megfelelés között. A „human in the loop” pusztán annyit jelent, hogy egy ember jóváhagyó gombot nyom. A 26. cikk (2) az alkalmazóra rója, hogy a felügyeletet olyan személyre bízza, aki rendelkezik a szükséges kompetenciával, képzéssel, jogosultsággal és támogatással. Ha a felügyelőnek nincs tényleges hatásköre a felülbírálásra, vagy a szervezeti KPI — átfutási idő, ügyszám — ezt gyakorlatilag ellehetetleníti, a formális loop nem megfelelés.
Az automation bias kezelésének bizonyítható elemei jellemzően: a felülbírálási arány mérése, a bizonytalansági jelzés megjelenítése, a felülbírálás indokolásának naplózása, célzott képzés, és a felügyelő teljesítménymérésének leválasztása az AI-kimenet elfogadásáról. Kiforrott hatósági gyakorlat erre még nincs, a dokumentálási kötelezettség viszont áll.
A dokumentált képzés az, ami igazolható
A 4. cikk gondossági kötelem: nem a tudás önmagában számít, hanem hogy a cég bizonyíthatóan tett érte. Az alapcsomagunkkal ez ingyen elkezdhető.
Ingyenes kezdésKapcsolódó kérdések
- Elég-e egy jóváhagyó gomb az emberi felügyelethez?
- Mi az automation bias, és hogyan kezeljük?
- Ki lehet a felügyeletet ellátó személy a cégnél?
- Kell-e képzés az AI-t felügyelő munkatársnak?
- Hogyan bizonyítjuk, hogy valódi az emberi felügyelet?
- Mit jelent a négy szem elve a biometrikus rendszereknél?
- Felelős-e a felügyelő munkavállaló a rossz AI-döntésért?
Tovább a tudásbázisban
- Milyen kötelezettségei vannak az alkalmazónak magas kockázatú AI-rendszernél?A 26. cikk tizenkét bekezdést tartalmaz, de nem mind kötelezettség és nem mind mindenkire szól. Egy vásárló magáncégre a mag: a használati útmutató szerinti használat, kompetens emberi felügyelet, a bemeneti adatok relevanciája, a működés monitorozása, a naplók legalább hat hónapos megőrzése, és a hatósággal való együttműködés.
- Mit kell átadni az AI-rendszer alkalmazójának a 13. cikk alapján?A 13. cikk kettős: egyrészt tervezési követelmény, hogy a rendszer működése kellően átlátható legyen a kimenet értelmezéséhez, másrészt tartalmi minimumlista a használati útmutatóra. Az útmutatónak tömörnek, teljesnek, helyesnek és világosnak kell lennie, és hat témakört kell lefednie a rendeltetéstől a pontossági mérőszámokon át a naplókezelésig.
- Van-e kötelező AI-képzés, óraszám vagy tanúsítvány az EU AI Act szerint?Nincs. A rendelet nem ír elő óraszámot, kötelező tananyagot, akkreditált képzést, vizsgát, tanúsítványt vagy külső auditot, és nincs olyan tanúsítvány sem, amely megfelelőségi vélelmet keletkeztetne. A Bizottság AI-jártassági Q&A-ja ezt kifejezetten rögzíti. Belső, saját erőforrásból megvalósított felkészítés ugyanúgy alkalmas a teljesítésre.
- Mit követelhet a munkavállaló és az érintett személy, ha AI-rendszer dönt róla?Három, eltérő erősségű jogosultság. A munkavállalói tájékoztatás előzetes és kollektív: a munkáltató a használat előtt tájékoztatja a képviselőket és az érintett munkavállalókat. Az érintetti tájékoztatás egyszerű használati közlés. A 86. cikk szerinti magyarázati jog viszont valódi, kérelemre teljesítendő igény — de csak hátrányos, jelentős hatású döntéseknél.