Mit tilt az AI Act a bűnelkövetés előrejelzéséről?
Az 5. cikk (1) bekezdés d) pontja tiltja azt az AI-rendszert, amely természetes személyekre vonatkozó kockázatértékelést végez annak megítélésére vagy előrejelzésére, hogy az adott személy bűncselekményt fog-e elkövetni, ha ez kizárólag profilalkotáson vagy a személyiségjegyek és -jellemzők értékelésén alapul. A „kizárólag” fordulat a tényállás sarokköve.
Ha objektív, ellenőrizhető, a bűncselekményhez közvetlenül kapcsolódó tényadatok is érdemi részét képezik az értékelésnek, a tilalom nem alkalmazandó. A rendelet szövege ezt kivételként is kimondja: nem tiltott az a rendszer, amely egy személy bűncselekményben való érintettségére vonatkozó emberi értékelést támogat, ha az az értékelés már ilyen objektív tényeken alapul.
Ilyenkor a rendszer nem tiltott, hanem — bűnüldöző hatóság általi használat esetén — a III. melléklet 6. d) pontja szerinti magas kockázatú rendszer, a 14. és a 26. cikk szerinti emberi felügyelettel és az automatizálási torzítás kezelésével együtt. Az emberi beavatkozás mércéjéhez a Bizottság az Európai Unió Bíróságának Ligue des droits humains ítéletét (C-817/19) hívja segítségül.
Kívül esik a tilalmon a helyalapú, területi bűnözés-előrejelzés, a jogi személyekre vonatkozó előrejelzés és a szabálysértések egyéni előrejelzése.
Magánszereplő is a tilalom hatálya alá kerülhet, ha ilyen rendszert hoz piacra vagy használ. Ez a biztonsági szolgáltatóknál és a csalásmegelőzésnél reális határkérdés — érdemes végignézni, milyen adatokra épül a kockázati pontszám.
Nem biztos benne, hogy ez Önökre vonatkozik?
Két perc, tizenkét kérdés, és megkapja, hogy a cége mely kötelezettségek alá esik — regisztráció nélkül.
AI Act ellenőrzés indításaKapcsolódó kérdések
- Tiltott-e a predictive policing az EU-ban?
- Használhat magáncég bűnelkövetési kockázatbecslő AI-t?
- Beleesik a csalásmegelőző rendszerünk a d) pont tilalmába?
- Mi a különbség a területi és az egyéni bűnözés-előrejelzés között?
- Mit jelent a kizárólag profilalkotáson alapuló értékelés?
- Elég-e az emberi jóváhagyás a tilalom elkerüléséhez?
Tovább a tudásbázisban
- Milyen AI-gyakorlatokat tilt teljesen az EU AI Act?Az 5. cikk (1) bekezdése nyolc gyakorlatot tilt: tudatalatti vagy megtévesztő manipuláció, sérülékenység kihasználása, társadalmi pontozás, bűnelkövetés egyéni előrejelzése profilalkotásból, arcképadatbázisok célzatlan lekaparása, munkahelyi és oktatási érzelemfelismerés, védett tulajdonságokra irányuló biometrikus kategorizálás, és valós idejű távoli biometrikus azonosítás nyilvános térben.
- Vonatkozik a társadalmi pontozás tilalma a magáncégekre is?Igen. Az 5. cikk (1) bekezdés c) pontja kifejezetten független attól, hogy a rendszert vagy a pontszámot köz- vagy magánszereplő nyújtja, illetve használja. A tilalom akkor áll fenn, ha a szociális magatartás vagy személyiségjellemzők alapján végzett értékelés kontextusból kiszakított vagy aránytalan hátrányos bánásmódhoz vezet.
- Hogyan működik a valós idejű arcfelismerés tilalma nyilvános tereken?A valós idejű távoli biometrikus azonosítás nyilvánosan hozzáférhető terekben, bűnüldözési célból főszabály szerint tilos. Három taxatív cél esetén engedhető meg, de csak akkor, ha a tagállam erről nemzeti törvényt alkotott, és ügyenként bírói vagy független közigazgatási hatóság előzetes engedélyt adott.