Mit tilt az AI Act a biometrikus kategorizálásról?
Az 5. cikk (1) bekezdés g) pontja tiltja azt a biometrikus kategorizálási rendszert, amely természetes személyeket egyénileg sorol be a biometrikus adataik alapján azért, hogy faji hovatartozásukra, politikai véleményükre, szakszervezeti tagságukra, vallási vagy világnézeti meggyőződésükre, szexuális életükre vagy irányultságukra következtessen.
Három elem kell: biometrikus kategorizálási rendszer; egyéni — nem csoportszintű, aggregált — besorolás biometrikus adat alapján; és a felsorolt, taxatív érzékeny jellemzők kikövetkeztetése. A lista zárt, és nagyrészt, de nem teljesen fedi a GDPR 9. cikke szerinti különleges kategóriákat: az egészségi adat például nem szerepel benne.
A kivétel kétrészes, eltérő hatókörrel. A jogszerűen megszerzett biometrikus adathalmazok — például képek — címkézése és szűrése általánosan kivett; a biometrikus adat kategorizálása viszont csak a bűnüldözés területén. Az egyik fő cél épp a torzításmentesítés: a demográfiai reprezentativitás érdekében végzett címkézés megengedett, sőt magas kockázatú rendszereknél az adatkormányzási követelmények ki is kényszeríthetik.
Ami nem tiltott, az jellemzően nem is szabályozatlan: az érzékeny attribútumok szerinti biometrikus kategorizálás a III. melléklet 1. b) pontja alapján magas kockázatú, és a GDPR 9. cikke önállóan alkalmazandó.
Vállalati kontextusban a tipikus tévút a „diverzitás-analitika”: arcképből etnikai vagy vallási hovatartozás kikövetkeztetése egyértelműen a tilalom alá esik.
Nem biztos benne, hogy ez Önökre vonatkozik?
Két perc, tizenkét kérdés, és megkapja, hogy a cége mely kötelezettségek alá esik — regisztráció nélkül.
AI Act ellenőrzés indításaKapcsolódó kérdések
- Tilos-e arcképből etnikumot megállapítani AI-val?
- Mi a biometrikus kategorizálás az AI Act szerint?
- Legális-e a diverzitás-analitika arcfelismeréssel?
- Mikor megengedett a képadatbázis címkézése?
- Mi a különbség a tiltott és a magas kockázatú biometrikus kategorizálás között?
- Vonatkozik a tilalom az egészségi adat kikövetkeztetésére?
Tovább a tudásbázisban
- Milyen AI-gyakorlatokat tilt teljesen az EU AI Act?Az 5. cikk (1) bekezdése nyolc gyakorlatot tilt: tudatalatti vagy megtévesztő manipuláció, sérülékenység kihasználása, társadalmi pontozás, bűnelkövetés egyéni előrejelzése profilalkotásból, arcképadatbázisok célzatlan lekaparása, munkahelyi és oktatási érzelemfelismerés, védett tulajdonságokra irányuló biometrikus kategorizálás, és valós idejű távoli biometrikus azonosítás nyilvános térben.
- Tiltja az AI Act az arcképek internetes lekaparását?Igen, szűk körben. Az 5. cikk (1) bekezdés e) pontja tiltja azt az AI-rendszert, amely arcfelismerő adatbázisokat hoz létre vagy bővít az internetről vagy zártláncú kamerafelvételekből történő célzatlan arcképlekaparás útján. A tilalom a létrehozásra és a bővítésre irányul, nem magára az azonosításra.
- Tilos-e az érzelemfelismerés a munkahelyen az EU AI Act szerint?Igen. Tilos a biometrikus adaton alapuló érzelem- vagy szándékkövetkeztetés a munkahelyen és az oktatási intézményekben, kizárólag orvosi vagy biztonsági célú használat kivételével. A „munkahely” fogalma kiterjed a kiválasztási és felvételi folyamatra, sőt a próbaidőre is, ezért az érzelemelemző videóinterjú tiltott. Ez a leggyakoribb valós vállalati kitettség.