Hol a határ a tiltott AI-manipuláció és a jogszerű marketing között?
A tilalomhoz négy elem kell együtt: tudatalatti vagy szándékosan manipulatív, megtévesztő technika; a magatartás lényeges torzítása a tájékozott döntéshozatal érzékelhető rontásával; ebből eredő olyan döntés, amelyet a személy egyébként nem hozott volna; és tényleges vagy ésszerűen valószínű jelentős kár. Bármelyik hiánya kizárja a tilalmat.
A Bizottság iránymutatása két nüanszot emel ki. A szándék elégséges, de nem szükséges feltétel — a puszta hatás is megalapozza a tilalmat. Kell viszont valószínűsíthető okozati lánc: technika, majd magatartástorzítás, majd kár.
A „jelentős kár” fizikai, pszichés vagy vagyoni-gazdasági érdeksérelem lehet. A mérlegelésnél számít a súlyosság, a kontextus és a kumulatív hatás, a lépték, az érintettek sérülékenysége, valamint az időtartam és a visszafordíthatóság.
A határvonal a következő: a meggyőzés átlátható, tájékoztat és tiszteletben tartja az autonómiát; a manipuláció rejtett, kognitív torzításokat használ ki, és a manipuláló javára szolgál. A (29) preambulumbekezdés kifejezetten rögzíti, hogy a szokásos, jogszerű kereskedelmi gyakorlatok — köztük a reklám — önmagukban nem tiltottak, és a GDPR, a fogyasztóvédelmi jog és a DSA betartása erősíti ezt a pozíciót.
A Bizottság kifejezetten a tilalmon kívülre sorolja például a szimulált adathalász biztonsági tréninget és a hangulat alapján zenét ajánló rendszert — jelentős kár hiányában a gyakorlat kikerül az 5. cikk alól.
Nem biztos benne, hogy ez Önökre vonatkozik?
Két perc, tizenkét kérdés, és megkapja, hogy a cége mely kötelezettségek alá esik — regisztráció nélkül.
AI Act ellenőrzés indításaKapcsolódó kérdések
- Tiltott-e a személyre szabott AI-reklám az EU AI Act szerint?
- Mi számít manipulatív AI-technikának?
- Beleesik a dark pattern az 5. cikk tilalmába?
- Mit jelent a jelentős kár az AI Act-ben?
- Legális-e az AI-alapú konverzió-optimalizálás?
- Kell-e szándék a manipulációs tilalom megsértéséhez?
- Hogyan dokumentáljuk, hogy a marketing-AI nem manipulatív?
Tovább a tudásbázisban
- Milyen AI-gyakorlatokat tilt teljesen az EU AI Act?Az 5. cikk (1) bekezdése nyolc gyakorlatot tilt: tudatalatti vagy megtévesztő manipuláció, sérülékenység kihasználása, társadalmi pontozás, bűnelkövetés egyéni előrejelzése profilalkotásból, arcképadatbázisok célzatlan lekaparása, munkahelyi és oktatási érzelemfelismerés, védett tulajdonságokra irányuló biometrikus kategorizálás, és valós idejű távoli biometrikus azonosítás nyilvános térben.
- Mit tilt az AI Act a sérülékeny csoportok kihasználásáról?Az 5. cikk (1) bekezdés b) pontja tiltja azt az AI-rendszert, amely egy személy vagy csoport korból, fogyatékosságból vagy sajátos szociális-gazdasági helyzetből eredő sérülékenységét használja ki, ezzel a céllal vagy hatással lényegesen torzítva a magatartását, jelentős kárt okozó vagy ésszerűen valószínűen okozó módon.
- Hol merül fel valóban tiltott AI-gyakorlat kockázata egy szolgáltató cégnél?A reális kitettség szinte teljes egészében a munkahelyi érzelemfelismerés köré csoportosul, alkalmazói minőségben. Másodsorban a munkavállalói vagy jelölti pontozás releváns, ha nem kapcsolódó kontextusból származó adatot aggregál. Az arcképlekaparás tanácsadói környezetben jellemzően nem AI Act-, hanem GDPR-kockázat. A tilalmak 2025. február 2. óta élnek, a felső szankciósáv 35 millió euró vagy 7%.