Szociális pontozás
Tilos az AI-rendszer, amely természetes személyek szociális magatartása vagy ismert, feltételezett személyiségjellemzői alapján olyan pontszámot vagy értékelést készít, amely kontextusból kiszakított vagy aránytalanul hátrányos bánásmódhoz vezet. A tilalom független attól, hogy a rendszert vagy a pontszámot köz- vagy magánszereplő nyújtja, illetve használja.
A tilalmat az 5. cikk (1) bekezdés c) pontja rögzíti. A tényállás két kumulatív elemből áll: a pontszámnak szociális magatartáson vagy személyiségjellemzőkön kell alapulnia, és a következménynek kontextusból kiszakítottnak vagy aránytalannak kell lennie ahhoz a magatartáshoz képest, amelyből a pontszám származott. A magánszektorra vonatkozó kiterjesztés fontos gyakorlati pont: nem csak az állami „szociális kreditrendszer” tiltott, hanem bármely magáncég belső pontozási rendszere is, ha a fenti feltételek teljesülnek — például ha egy ügyfél korábbi, egy szolgáltatáshoz kapcsolódó magatartását egy másik, teljesen független szolgáltatás megtagadására használják fel. A III. melléklet 5. c) pontja egyes hitelképesség-értékelési kontextusban is releváns lehet, ahol a magas kockázatú besorolás és a tiltás elhatárolása gondos elemzést igényel.
Belső ügyfél- vagy partnerértékelő pontozási rendszerek tervezésénél kifejezetten végig kell gondolni, hogy a pontszám nem vezet-e a pontszám alapjául szolgáló kontextustól idegen, aránytalan hátrányos bánásmódhoz — ez nem elméleti kockázat, hanem konkrét tervezési szempont.
Dokumentált AI-jártassági képzésre van szüksége?
A 4. cikk gondossági kötelem: nem a tudás önmagában számít, hanem hogy a cég bizonyíthatóan tett érte. Az alapcsomagunkkal ez ingyen elkezdhető.
Ingyenes kezdés