Mikor magas kockázatú egy oktatási vagy képzési AI-rendszer?
Akkor, ha az AI a bejutásról, a tanulási eredmény értékeléséről vagy a megfelelő oktatási szintről dönt, illetve azt érdemben befolyásolja, vagy ha vizsgán proctoringot végez. A tananyagot előállító, gyakoroltató vagy adminisztratív eszköz nem az. A III. melléklet 3. pontja alá eső rendszerekre a kötelezettségek 2027. december 2-től állnak be.
A négy alpont: (a) hozzáférés, felvétel, besorolás; (b) tanulási eredmények értékelése, ideértve azt is, amikor az értékelést a tanulási folyamat irányítására használják; (c) az egyénnek megfelelő oktatási szint megállapítása; (d) tiltott vizsgázói magatartás megfigyelése és észlelése.
A (b) pont a legszélesebb és a leggyakrabban alábecsült. Egy adaptív tanulási platform, amely a kvízeredmény alapján automatikusan más nehézségi szintre irányítja a tanulót, szövegszerűen beletartozik. Ezzel szemben egy tananyaggeneráló vagy összefoglaló asszisztens, amely nem értékel és nem irányít, kívül marad.
Két elhatárolás a vállalati belső képzésnél. Ha a rendszer csak tananyagot szolgáltat, nem III. mellékletes; ha viszont a kimenet előléptetési vagy alkalmassági döntést táplál, átcsúszhat a 4. ponthoz. A proctoring pedig kettős: az arckép- és viselkedéselemzésen alapuló vizsgafelügyeletnél oktatási intézményben az 5. cikk (1) f) szerinti tiltott érzelemfelismerés is felmerül, ezt külön kell vizsgálni. Erre az elhatárolásra egyelőre nincs kiforrott gyakorlat; a Bizottság végleges 6. cikkes iránymutatása várhatóan pontosít.
Nem biztos benne, hogy ez Önökre vonatkozik?
Két perc, tizenkét kérdés, és megkapja, hogy a cége mely kötelezettségek alá esik — regisztráció nélkül.
AI Act ellenőrzés indításaKapcsolódó kérdések
- Magas kockázatú-e egy adaptív tanulási platform?
- Az online vizsgafelügyelet tiltott vagy magas kockázatú?
- A vállalati e-learning AI beleesik az AI Actbe?
- Kell-e megfelelni egy AI-alapú kvízgenerátornak?
- Mikor válik magas kockázatúvá a belső képzési rendszer?
- Mit jelent a tanulási eredmény értékelése az AI Actben?
- Mikortól kell megfelelni az oktatási AI-nak?
Tovább a tudásbázisban
- Mi az AI Act III. mellékletének teljes tartalma — mind a nyolc terület?Nyolc terület: biometria; kritikus infrastruktúra; oktatás és szakképzés; foglalkoztatás és munkavállalók irányítása; alapvető magán- és közszolgáltatásokhoz való hozzáférés; bűnüldözés; migráció, menekültügy és határigazgatás; végül igazságszolgáltatás és demokratikus folyamatok. Összesen 24 betűjelzett felhasználási eset, plusz a betűjelzés nélküli kritikus infrastruktúra. Vállalati szempontból a 4. pont a leggyakoribb.
- Tilos-e az érzelemfelismerés a munkahelyen az EU AI Act szerint?Igen. Tilos a biometrikus adaton alapuló érzelem- vagy szándékkövetkeztetés a munkahelyen és az oktatási intézményekben, kizárólag orvosi vagy biztonsági célú használat kivételével. A „munkahely” fogalma kiterjed a kiválasztási és felvételi folyamatra, sőt a próbaidőre is, ezért az érzelemelemző videóinterjú tiltott. Ez a leggyakoribb valós vállalati kitettség.
- Mit jelent a 2027. december 2-i és 2028. augusztus 2-i határidő egy fejlesztő cégnek?Nem szünetet jelent, hanem eltolt kapudátumot. A megfelelőségértékelést nem lehet utólag ráilleszteni egy kész rendszerre, ezért a tervezési döntéseket most kell meghozni. Az önálló, III. melléklet szerinti magas kockázatú rendszerekre 2027. december 2., a szabályozott termékbe ágyazottakra 2028. augusztus 2. a határidő.
- Mikor nem magas kockázatú egy olyan AI-rendszer, amely a III. melléklet alá esne?Akkor, ha nem jelent jelentős kockázatot az egészségre, a biztonságra vagy az alapvető jogokra, és teljesül a 6. cikk (3) négy esete közül legalább egy: szűk eljárási feladat, befejezett emberi tevékenység eredményének javítása, döntési minták észlelése emberi felülvizsgálat mellett, vagy előkészítő feladat. Profilalkotásnál viszont ez a kiút zárva van.