Emberi felügyelet
Az emberi felügyelet a 14. cikk szerint nem azt követeli, hogy legyen ember a folyamatban, hanem hogy a magas kockázatú AI-rendszer tervezésileg tegye lehetővé a tényleges felügyeletet. A felügyelő személynek értenie kell a rendszer korlátait, tudatában kell lennie az automatizálási elfogultságnak, és valós joga kell legyen a kimenet felülbírálására, figyelmen kívül hagyására vagy a rendszer leállítására.
A tervezési kötelezettséget a 14. cikk (1)–(5) bekezdése adja, a IV. melléklet 2. e) és 3. pontja a dokumentálási oldalt egészíti ki. Az alkalmazói oldalon ehhez kapcsolódik a 26. cikk (2) bekezdése, amely már nem csak a szolgáltatóra, hanem az alkalmazóra is kompetencia-, képzési és felhatalmazási kötelezettséget ró a felügyeletet ellátó konkrét személy tekintetében — ez az egyik legritkábban teljesített, de bírságolható kötelezettség. Az „automatizálási elfogultság” — az a jelenség, hogy az ember hajlamos vakon megbízni a gép ajánlásában — kifejezetten nevesített kockázat, amelyre a felügyelő személyt fel kell készíteni. A felügyelet nem formális jelenlétet jelent: a felügyelőnek ténylegesen képesnek kell lennie a döntés felülbírálására, és ehhez elegendő időt, információt és felhatalmazást kell kapnia. Ez a norma szorosan kapcsolódik az AI-jártassághoz (4. cikk): a 4. cikk az általános alapszint, a 14. és 26. cikk (2) pedig a magas kockázatú rendszernél elvárt, konkrét kompetenciaszint.
Ha egy kkv magas kockázatú AI-t vezet be, nem elég kijelölni valakit „felügyelőnek” — annak a személynek ténylegesen kell tudnia és mernie felülbírálni a rendszert, és ezt a hatóság a 26. cikk (2) alapján számon is kérheti.
Dokumentált AI-jártassági képzésre van szüksége?
A 4. cikk gondossági kötelem: nem a tudás önmagában számít, hanem hogy a cég bizonyíthatóan tett érte. Az alapcsomagunkkal ez ingyen elkezdhető.
Ingyenes kezdésKapcsolódó fogalmak
- AI-jártasságAz AI-jártasság olyan készség, tudás és értés, amely lehetővé teszi, hogy valaki tájékozottan alkalmazza az AI-rendszereket, és tudatában legyen az AI lehetőségeinek, kockázatainak és a lehetséges kárnak. A 4. cikk szerint a szolgáltatók és az alkalmazók kötelesek intézkedéseket hozni a személyzetük AI-jártasságának fejlesztése érdekében — kockázati kategóriától függetlenül.
- AlkalmazóAlkalmazó az, aki AI-rendszert saját felügyelete alatt használ szakmai tevékenységében — kivéve, ha a rendszert nem szakmai, tisztán személyes tevékenység keretében veszi igénybe. A puszta használat, bármilyen intenzív, nem tesz szolgáltatóvá; az alkalmazóra a jóval szűkebb 26. cikk vonatkozik.
- SzolgáltatóSzolgáltató az, aki AI-rendszert vagy általános célú AI-modellt fejleszt vagy fejlesztet, és azt saját neve vagy védjegye alatt hozza forgalomba vagy helyezi üzembe, akár ingyenesen, akár ellenérték fejében. A szolgáltatóra hárul a rendelet legterjedelmesebb kötelezettségcsomagja: kockázatkezelés, adatkormányzás, dokumentáció, megfelelőségértékelés, CE-jelölés.
- Magas kockázatú AIMagas kockázatú az az AI-rendszer, amely az I. melléklet szerinti uniós termékbiztonsági jog alá tartozó termék biztonsági alkatrésze vagy maga a termék, vagy amely a III. melléklet nyolc területének valamelyikébe tartozó, ott felsorolt felhasználási esetek egyikét valósítja meg. A besorolás a rendeltetéshez tapad, nem a technológiához.
Kapcsolódó kérdések a tudásbázisban
- Mit jelent jogilag az emberi felügyelet az AI Act 14. cikke szerint?A 14. cikk nem azt követeli, hogy legyen ember a folyamatban, hanem hogy a rendszer tervezésileg tegye lehetővé a tényleges felügyeletet. A felügyelő személynek értenie kell a rendszer korlátait, tudatában kell lennie az automatizálási elfogultságnak, és valós joga kell legyen a kimenet felülbírálására, figyelmen kívül hagyására vagy a rendszer leállítására.
- Hogyan viszonyul az AI-jártasság az emberi felügyelethez (14. és 26. cikk)?A három norma koncentrikus. A 4. cikk általános alapszint minden AI-rendszerre és minden érintett munkatársra. A 26. cikk (2) ezen felül, magas kockázatú rendszernél, a felügyeletet ellátó konkrét személytől követel kompetenciát, képzést és felhatalmazást — és ez már bírságolható. A 14. cikk mögötte a szolgáltatói tervezési kötelezettség.