Ésszerűen előrelátható visszaélés
Az ésszerűen előrelátható visszaélés az AI-rendszer olyan, a rendeltetésétől eltérő használata, amely ésszerűen előrelátható emberi magatartásból vagy más rendszerekkel — köztük más AI-rendszerekkel — való kölcsönhatásból eredhet. A szolgáltatónak ezt is figyelembe kell vennie a kockázatkezelés és a tervezés során, nem csak a szándékolt használatot.
A fogalmat a 3. cikk 13. pontja adja, és szorosan kapcsolódik a rendeltetéshez: a kettő együtt határozza meg, mekkora előrelátási felelősség terheli a szolgáltatót. A hangsúly az „ésszerűen” szón van — nem minden elképzelhető visszaélésre kell felkészülni, csak arra, ami a tapasztalat vagy a rendszer jellege alapján reálisan várható. Ez a mérce jelenik meg a kockázatkezelési rendszerben és a műszaki dokumentációban is: a szolgáltatónak számot kell adnia arról, hogy a tervezés és a tesztelés során milyen visszaélési forgatókönyveket vett figyelembe. A besorolási döntés dokumentálásakor ez a fogalom adja meg azt a keretet, amelyen belül a szolgáltató felelős marad — azon túl az alkalmazó saját, önálló kötelezettsége kezdődik, különösen ha a rendszert szándékosan, a rendeltetéstől eltérő célra használja.
A besorolási dosszié és a kockázatkezelési dokumentáció akkor védhető, ha nemcsak a tervezett használatot, hanem a reálisan várható félrehasználást is rögzíti — ez az, amit egy hatóság utólag számon kér.
Dokumentált AI-jártassági képzésre van szüksége?
A 4. cikk gondossági kötelem: nem a tudás önmagában számít, hanem hogy a cég bizonyíthatóan tett érte. Az alapcsomagunkkal ez ingyen elkezdhető.
Ingyenes kezdésKapcsolódó fogalmak
- RendeltetésA rendeltetés az a felhasználás, amelyre a szolgáltató az AI-rendszert szánja, beleértve a használat konkrét kontextusát és feltételeit, ahogyan azt a szolgáltató a használati útmutatóban, promóciós vagy értékesítési anyagokban és a műszaki dokumentációban megadja. A besorolás — köztük a magas kockázatú minősítés — a rendeltetéshez tapad, nem magához a technológiához.
- Kockázatkezelési rendszerA kockázatkezelési rendszer a magas kockázatú AI-rendszer teljes életciklusára kiterjedő, folyamatos, dokumentált és tesztelésre alapozott folyamat, amely a harmadik személyek egészségére, biztonságára és alapjogaira jelentett kockázatokat azonosítja, értékeli és csökkenti. Nem a szervezeti kockázatot kezeli — más alanyt véd, mint az ISO 31000 vagy az ISO/IEC 42001, és egyik sem keletkeztet megfelelőségi vélelmet, mert egyik sem harmonizált szabvány.
- Lényeges módosításLényeges módosítás az a forgalomba hozatal utáni változás egy AI-rendszeren, amelyet az eredeti megfelelőségértékelés nem irányzott elő, és amely érinti a magas kockázatú követelményeknek való megfelelést, vagy megváltoztatja az értékelt rendeltetést. Aki lényeges módosítást végez egy már forgalomban lévő rendszeren, a 25. cikk alapján szolgáltatóvá válik.
Kapcsolódó kérdések a tudásbázisban
- Mi számít lényeges módosításnak egy AI-rendszeren?A 3. cikk 23. pontja szerint az a forgalomba hozatal utáni változás, amelyet az eredeti megfelelőségértékelés nem irányzott elő, és amely érinti a III. fejezet 2. szakasza szerinti követelményeknek való megfelelést, vagy megváltoztatja az értékelt rendeltetést. Aki ilyet végez, a 25. cikk alapján szolgáltatóvá válik.
- Hogyan soroljuk be az AI-rendszerünket lépésről lépésre úgy, hogy a hatóság előtt is védhető legyen?Hét lépéses, dokumentált döntési fa vezet védhető eredményre: hatály, AI-rendszer-e, szerepkör, tiltott-e, I. melléklet, III. melléklet, végül a 6. cikk (3) szűrő és az 50. cikk átfedése. A védhetőséget nem a következtetés adja, hanem hogy minden csomóponthoz van datált, aláírt indokolás és verziókövetés. A hatóság a folyamatot kéri, nem a végeredményt.