Mit tilt az AI Act a sérülékeny csoportok kihasználásáról?
Az 5. cikk (1) bekezdés b) pontja tiltja azt az AI-rendszert, amely egy személy vagy csoport korból, fogyatékosságból vagy sajátos szociális-gazdasági helyzetből eredő sérülékenységét használja ki, ezzel a céllal vagy hatással lényegesen torzítva a magatartását, jelentős kárt okozó vagy ésszerűen valószínűen okozó módon.
Az a) ponthoz képest két lényeges eltérés van. Itt nem feltétel, hogy a magatartástorzítás a tájékozott döntéshozatal érzékelhető rontásával valósuljon meg — ez a tényállás annyiban könnyebben teljesül. Cserébe a védett kör zárt: a sérülékenységnek a három felsorolt jellemző valamelyikéből kell erednie.
A „kizsákmányolás” objektív mérce: a sérülékenység olyan felhasználása, amely az érintettre nézve káros. A halmozott sérülékenység — például idős és rossz anyagi helyzetű személy — figyelembe vehető.
A negatív oldal a gyakorlatban legalább ilyen fontos. Nem minősül kizsákmányolásnak, ha a rendszer az életkort vagy a szociális-gazdasági helyzetet a védett csoport javára használja inputként, az uniós pénzügyi, fogyasztóvédelmi, adatvédelmi és antidiszkriminációs jognak megfelelően. A Bizottság kifejezetten a jelzálog- és hitelkihelyezést hozza példának. Ugyanígy kívül esik a gyermekek online szexuális bántalmazását detektáló osztályozó és a sofőr fáradtságát figyelő rendszer.
A két tilalom átfedhet: ugyanaz a gyakorlat egyszerre eshet az a) és a b) pont alá.
Nem biztos benne, hogy ez Önökre vonatkozik?
Két perc, tizenkét kérdés, és megkapja, hogy a cége mely kötelezettségek alá esik — regisztráció nélkül.
AI Act ellenőrzés indításaKapcsolódó kérdések
- Tilos-e idősekre célzott AI-értékesítés?
- Mit jelent a szociális-gazdasági sérülékenység az AI Act-ben?
- Használható-e az életkor inputként egy AI-modellben?
- Tiltott-e a gyerekeknek szóló AI-alkalmazás?
- Mi a különbség az 5. cikk a) és b) pontja között?
- Beleesik a hitelbírálati AI a sérülékenységi tilalomba?
Tovább a tudásbázisban
- Hol a határ a tiltott AI-manipuláció és a jogszerű marketing között?A tilalomhoz négy elem kell együtt: tudatalatti vagy szándékosan manipulatív, megtévesztő technika; a magatartás lényeges torzítása a tájékozott döntéshozatal érzékelhető rontásával; ebből eredő olyan döntés, amelyet a személy egyébként nem hozott volna; és tényleges vagy ésszerűen valószínű jelentős kár. Bármelyik hiánya kizárja a tilalmat.
- Milyen AI-gyakorlatokat tilt teljesen az EU AI Act?Az 5. cikk (1) bekezdése nyolc gyakorlatot tilt: tudatalatti vagy megtévesztő manipuláció, sérülékenység kihasználása, társadalmi pontozás, bűnelkövetés egyéni előrejelzése profilalkotásból, arcképadatbázisok célzatlan lekaparása, munkahelyi és oktatási érzelemfelismerés, védett tulajdonságokra irányuló biometrikus kategorizálás, és valós idejű távoli biometrikus azonosítás nyilvános térben.
- Vonatkozik a társadalmi pontozás tilalma a magáncégekre is?Igen. Az 5. cikk (1) bekezdés c) pontja kifejezetten független attól, hogy a rendszert vagy a pontszámot köz- vagy magánszereplő nyújtja, illetve használja. A tilalom akkor áll fenn, ha a szociális magatartás vagy személyiségjellemzők alapján végzett értékelés kontextusból kiszakított vagy aránytalan hátrányos bánásmódhoz vezet.