Deepfake
A deepfake is AI-generated or manipulated image, audio or video content that resembles existing persons, objects, places or events and would falsely appear to a person to be authentic or truthful. A deployer that publishes such content must disclose its artificial origin in a manner that is perceptible to humans.
The concept is defined in Article 3(60), the disclosure duty in Article 50(4) and (5). The obligation falls on the deployer, not the provider: anyone who makes deepfake content public must disclose that it has been artificially generated or manipulated. A narrow exception applies where the content forms part of an evidently artistic, creative, satirical, fictional or analogous work — in that case an appropriate disclosure that does not hamper the exhibition or enjoyment of the work suffices. With effect from 2 December 2026, the Digital Omnibus also added two new, deepfake-related prohibitions to Article 5: AI-based generation or manipulation of non-consensual intimate content and of material depicting child sexual abuse is now prohibited outright, not merely subject to labelling. In a marketing context, an ordinary AI-generated image or text that does not depict a real person in a deceptive way does not fall under the deepfake concept.
An AI-generated marketing image that does not depict a real, recognisable person in a deceptive way is not a deepfake — but if a company publishes AI-altered video or audio of a real person, it must label it.
Need documented AI-literacy training?
Article 4 is a duty of diligence: what counts is not knowledge in the abstract, but demonstrable, documented effort. Our starter package lets you begin free.
Start freeRelated terms
- Transparency obligation (Article 50)Article 50 lays down four separate transparency obligations, regardless of risk category: the provider must disclose when a user is interacting with AI and must mark generated content in a machine-readable format; the deployer must inform individuals about emotion recognition and must disclose the artificial origin of deepfake content. All four have applied since 2 August 2026.
- Prohibited AI practiceArticle 5(1) prohibits eight AI practices outright: subliminal or deceptive manipulation, exploitation of vulnerabilities, social scoring, predicting criminal offending from profiling alone, untargeted scraping of facial images, emotion recognition in the workplace and education, biometric categorisation to infer protected characteristics, and real-time remote biometric identification in public spaces. There is no compliance pathway for these.
Related questions in the knowledge base (Hungarian)
- Meg kell jelölni az AI-val készült képeket és szövegeket a cégünk marketingjében?A deepfake-nek minősülő kép, hang vagy videó közzétételekor igen: az alkalmazónak ember által észlelhető módon közölnie kell a mesterséges eredetet. Az AI-generált szövegnél a kötelezettség szűkebb — csak a nyilvánosság közérdekű tájékoztatására szánt szövegre vonatkozik. A szokásos vállalati marketingszöveg és a belső dokumentum nem tartozik ide.
- Milyen új tilalmat vezetett be az AI Act az intim képmásokra és a CSAM-ra?A Digital Omnibus két új pontot illesztett az 5. cikk (1) bekezdésébe: tilos az olyan AI-rendszer, amely nem-konszenzusos intim vagy szexuálisan explicit tartalmat, illetve gyermekek szexuális bántalmazását ábrázoló anyagot generál vagy manipulál. A tilalom 2026. december 2-től alkalmazandó, és a használatra is kiterjed.
- Kire vonatkozik az AI Act új NCII- és CSAM-tilalma: a szolgáltatóra vagy a felhasználóra?Mindkettőre, de eltérő mércével. A szolgáltatónál a tilalom akkor is beáll, ha az ilyen tartalom előállítása ésszerűen előrelátható és reprodukálható eredmény, és nincsenek megfelelő technikai biztosítékok. Az alkalmazónál szűkebb: akkor sérül, ha kifejezetten ilyen tartalom előállítása céljából használja a rendszert.
- Mit ír elő az AI Act 50. cikke az átláthatóságról, és kire vonatkozik?Négy önálló kötelezettséget: a szolgáltatónak közölnie kell, ha a felhasználó AI-val lép interakcióba, és gépi olvashatóan meg kell jelölnie a generált tartalmat. Az alkalmazónak tájékoztatnia kell az érzelemfelismerésről, és jeleznie kell a deepfake mesterséges eredetét. Mind a négy 2026. augusztus 2. óta alkalmazandó, a kockázati besorolástól függetlenül.