Kire vonatkozik az AI Act új NCII- és CSAM-tilalma: a szolgáltatóra vagy a felhasználóra?
Mindkettőre, de eltérő mércével. A szolgáltatónál a tilalom akkor is beáll, ha az ilyen tartalom előállítása ésszerűen előrelátható és reprodukálható eredmény, és nincsenek megfelelő technikai biztosítékok. Az alkalmazónál szűkebb: akkor sérül, ha kifejezetten ilyen tartalom előállítása céljából használja a rendszert.
Ez az aszimmetria a szabály lényege. A szolgáltatói oldalon a tilalom nem korlátozódik a kifejezetten erre szánt rendszerekre — kiterjed arra is, ha a rendszer kialakítása, tanítása, architektúrája vagy felhasználói funkciói jelentős technikai módosítás nélkül lehetővé teszik az ilyen kimenetet. Aki hatékony technikai védelmet épít be, lényegében mentesül.
Az alkalmazói oldalon a szándékos, célzott használat a mérce. Ide tartozik a szolgáltatói védelem szándékos megkerülése és egy erre nem tervezett rendszer célzott visszaélésszerű használata is. A véletlen előállítás kifejezetten kívül esik a tilalmon.
Gyakorlati következmény szolgáltatói oldalon: a generatív kép- és videómodelleknél az előrelátható visszaélés értékelése és a technikai védelem dokumentálása a kockázatkezelési anyag részévé válik. A tilalom 2026. december 2-től alkalmazandó, tehát erre most van felkészülési idő.
Alkalmazói oldalon a reális teendő a belső AI-használati szabályzat és a hozzáférés-kezelés: ha egy munkatárs céges eszközzel állít elő ilyen tartalmat, az a szervezetre nézve is kockázat.
Összetettebb eset?
Ha a besorolás vagy a szerepkör nem egyértelmű, érdemes konkrét tényálláson végigmenni.
KapcsolatfelvételKapcsolódó kérdések
- Felel-e a cég, ha a munkatárs deepfake-et készít céges AI-eszközzel?
- Mit jelent az ésszerűen előrelátható és reprodukálható eredmény?
- Mentesül-e a képgeneráló szolgáltató, ha beépít szűrőket?
- Kell-e AI-használati szabályzat a tilalom miatt?
- Mikortól él az NCII- és CSAM-tilalom?
- Véletlen generálás is jogsértés?
Tovább a tudásbázisban
- Milyen új tilalmat vezetett be az AI Act az intim képmásokra és a CSAM-ra?A Digital Omnibus két új pontot illesztett az 5. cikk (1) bekezdésébe: tilos az olyan AI-rendszer, amely nem-konszenzusos intim vagy szexuálisan explicit tartalmat, illetve gyermekek szexuális bántalmazását ábrázoló anyagot generál vagy manipulál. A tilalom 2026. december 2-től alkalmazandó, és a használatra is kiterjed.
- Milyen AI-gyakorlatokat tilt teljesen az EU AI Act?Az 5. cikk (1) bekezdése nyolc gyakorlatot tilt: tudatalatti vagy megtévesztő manipuláció, sérülékenység kihasználása, társadalmi pontozás, bűnelkövetés egyéni előrejelzése profilalkotásból, arcképadatbázisok célzatlan lekaparása, munkahelyi és oktatási érzelemfelismerés, védett tulajdonságokra irányuló biometrikus kategorizálás, és valós idejű távoli biometrikus azonosítás nyilvános térben.
- Mit kell tennie annak a cégnek, amely csak használ ChatGPT-t vagy Copilotot?GPAI-modellszolgáltatói kötelezettség nem keletkezik — az a modell mögötti vállalatnál marad. Alkalmazóként viszont közvetlenül terheli a 4. cikk AI-jártassági kötelezettség, a deepfake- és közérdekű AI-szöveg címkézése, és ha ilyet használ, az érzelemfelismerésről szóló tájékoztatás. Saját, kifelé nyitott rendszer építésekor szolgáltatóvá válik.