V čem spočívají největší hrozby dětské pornografie generované pomocí AI?

Pornografie generovaná AI zahrnuje použití manipulovaných nebo syntetických snímků a videí bez výslovného souhlasu zúčastněných osob. Může tak být zneužita například k vytváření explicitního obsahu s veřejně známými osobami nebo nic netušícími jednotlivci.

Technologie deepfake

Generátory pornografie poháněné umělou inteligencí často využívají technologii deepfake, která dokáže vytvářet realistický a přesvědčivý falešný obsah překrytím něčí tváře na tělo jiné osoby, což může mít devastující dopady a oběti. Většina deepfake pornografie se týká žen.

Na internetu bují i obchod s „umělou dětskou pornografií“. Pomocí nástrojů pro generování grafiky lze totiž vytvořit prakticky libovolné obrázky, které vypadají realisticky. Zabránit jejich tvorbě je téměř nemožné.

AI využívá k vytváření realistických obrazů i sexuální zneužívání dětí včetně znásilňování kojenců a batolat. Vědci přitom varují, že pedofil se může pohybovat na škále trestných činů od myšlenky přes syntetické až po skutečné zneužití živého dítěte. Záplava realistických nebo „syntetických“ snímků generovaných umělou inteligencí krom toho může zpomalit proces identifikace skutečných obětí zneužívání.

Šíření pomocí online platforem

Pornografie generovaná AI se může snadno šířit prostřednictvím různých online platforem, což mnohdy ztěžuje regulaci.

Nejpopulárnějšími nástroji pro tvorbu takového obsahu jsou v současnosti Midjourney, Dall-E, Adobe Firefly a Stable Diffusion. První tři jmenované fungují jako internetová služba, kde provozovatel má plnou kontrolu nad tím, jaká slova zakáže nebo jaké obrázky „zastaví“ dříve, než se k uživatelům dostanou.

Avšak modely jako Stable Diffusion si mohou uživatelé naistalovat na svůj počítač a odstranit tak dodatečné filtry a kontrolu. Tyto nástroje pak lze použít ke generování jakýchkoli obrázků. A jestliže model běží na lokálním počítači, který nemusí být připojený k internetu, není reálně možné tvorbu zpětně omezit.

Varování před riziky

Některé instituce a vládní orgány již začaly upozorňovat na nebezpečí spojená s pornografií generovanou umělou inteligencí. Tento trend představuje vážné riziko pro jednotlivce i společnost a je nezbytné, aby byla přijata příslušná opatření k jeho řešení.

Je důležité, aby o všech těchto rizicích byli informováni i lékaři a ostatní odborníci. Níže vám nabízíme pohledy dvou expertů na tuto problematiku.

(asa)

Zdroje:
1. Hasan A. The Rise of AI Porn Generators Implications and Consequences 2024. Medium, 2023 Aug 20. Dostupné na: https://medium.com/@adnan-hasan/the-rise-of-ai-porn-generators-implications-and-consequences-2024-ea457d91227b
2. Hadero H. AI tools may help proliferate deepfake porn. What's being done to curb it? USA Today, 2023 Apr 16. Dostupné na:https://eu.usatoday.com/story/tech/news/2023/04/16/ai-deepfake-porn-technology-protection-tools/11678709002/
3. Hao K. Deepfake porn is ruining women’s lives. Now the law may finally ban it. MIT Technology Review, 2021 Dec 2. Dostupné na: www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban

   

KOMENTÁŘ: Zneužívání dětí v éře generativní AI pohledem znalkyně

Veřejnost je dobře obeznámena s pojmem pedofil. Je to však jedinec nejvíce nebezpečný z pohledu možného sexuálního zneužití dětí a mladistvých? Pomáhá umělou inteligencí (AI) generovaná pornografie redukovat sexuální násilí, nebo ho činí atraktivnějším? Mění se praktiky a záměry sexuálních predátorů a lze je podchytit dříve, než ublíží? A umíme dostatečně chránit děti nebo před náznaky sexuálního zneužívání zavíráme oči? K otázkám se vyjadřuje zkušená soudní znalkyně v oboru psychiatrie a sexuologie MUDr. Želmíra Herrová.

 

   

Internet, sociální sítě ani AI generovaná pornografie nepřinesla žádné změny, pokud jde o nebezpečnost sexuálního zneužití a násilí dětí a mladistvých. Všechny tyto technologické prostředky jsou v oblasti lidské sexuality považovány za prostředky k realizaci sexuality v mezích zákona u lidí, kteří nemají to štěstí, aby měli konvenční sexualitu.

Jsou využívány pro redukci sexuálního puzení. Tím, že mají dotyční možnost používat tyto prostředky, se u nich snižuje pravděpodobnost realizace sexuality s živými objekty, tedy s osobami, které nesouhlasí se sexuální interakcí, včetně dětí, které ani nemohou souhlasit s realizací sexuality.

Náš učitel PhDr. Aleš Kolářský říkával, že internet byl stvořen pro hebefily, protože ti se chtějí dívat na dívčí genitál. AI rozhodně může redukovat sexuální násilí, ale neplatí, že ho úplně vyloučí. Praktiky a záměry predátorů a sexuálních deviantů vůči potenciálním dětským obětem se díky AI nemění.

Ve společnosti je nadužívaný výraz pedofil, a to nejenom laickou veřejností, ale i samotnými sexuology, kteří mají zavirované diagnostické uvažování klasifikací nemocí MKN 10 a za pedofila považují každého, kdo děti nějakým způsobem zneužije.

Pro děti je však nejvíce nebezpečný sexuální agresor a sadista. Tady však musím připomenout fakt, že pro dítě je nebezpečný i nesexuální psychopat, který se chce zbavit oběti jako svědka. Co se týče dalšího stupně nebezpečnosti, pak jde o sexuální devianty typu „C“, kteří mají tzv. neúplnou sexualitu. To znamená, že buď nemají vlohy pro atraktivitu (vábení), nebo proceptivitu (namlouvání), anebo pro oba tyto sexuální motivační stavy, které u konvenční sexuality předcházejí genitálnímu spojení. Tyto charakteristiky neúplnosti splňují lidé, kteří na internetu realizují genitální části sexuality, protože se vyhnou nutnosti atraktivního a namlouvacího chování, jelikož jim je velmi nepříjemné.

Včasný záchyt a léčba před tím, než spáchají případný trestný čin, jsou možné. Stále častěji se na sexuologickou ambulanci obrací potenciální pacienti, kteří si možná i díky mediální osvětě začínají uvědomovat, že s jejich sexuálními představami a tužbami není něco v pořádku.

V oblasti prevence – hlavně co se týče dětských obětí a domácího sexuálního zneužívání zejména otčímy a dalšími příteli matek – je potřeba být vnímavější k děvčátkům a pubertálním slečnám, které dlouhodobě naznačují, že mají problém se vztahy k výše uvedeným.

V současné beletristické literatuře, například v knihách Poupátka, Tento pokoj se nedá sníst nebo Svolení, můžeme jasně vystopovat jemné náznaky děvčátek o tom, že jsou pohlavně zneužívány. Nová nebezpečí pak spočívají v tom, že děti mají přístup k internetu, jsou přirozeně zvídavé, hledají tam různé neznámé podněty, ke kterým patří i sexualita. Touha po neznámém je může zavést právě k lidem, kterým jde o to, aby viděli nahá dětská tělíčka a nahé dětské genitálie. A děti mohou do těchto pastí velice snadno spadnout.

KOMENTÁŘ: Experti se liší v názoru, jak AI ovlivní rizika sexuálního zneužití

Odborníci diskutují, zda AI generovaná dětská pornografie pomůže snížit, nebo naopak zvýšit riziko spojené se sexuálním zneužíváním dětí, či zda dochází k nebezpečnému posunu „normalizace“ sexuálního zneužívání dětí. Krátký pohled na tuto problematiku přináší vedoucí projektu E-Bezpečí a vedoucí Centra prevence rizikové komunikace PdF UP prof. Mgr. Kamil Kopecký, Ph.D.

  

   

Jestliže hovoříme o generované dětské pornografii, je nutné rozlišovat, zda jde o pornografii zaměřenou na konkrétní osobu, například pomocí takzvaných svlékacích aplikací, nebo o fiktivní pornografii zachycující nereálné osoby.

Z pohledu zákona je i generovaný pornografický obsah zachycující osobu mladší 18 let v různých formách (fotografie, ale třeba také kresba, animace, text) považovaný za nelegální, definice však není ustálená a záleží skutečně na konkrétní situaci a posouzení. Co se týče rizika možného sexuálního zneužití, generovaná pornografie zachycující konkrétní dítě zcela jistě toto riziko zvýší.

Umělá inteligence je v tuto chvíli integrována do řady nástrojů, které umí například „svléknout dítě” na základě fotografie, na které je oblečené, další aplikace dokáží třeba prohodit obličeje aktérů na videu – v pornografickém videu nahradíme obličej pornoherečky obličejem dítěte a podobně. AI umožňuje také klonovat lidský hlas či vytvářet deep fake videa.

Názor na to, zda díky snadnému šíření a tvorbě CSAM (materiálů zachycujících sexuální zneužívání dětí) hrozí vyšší riziko páchání trestných činů, není jednotný. Někteří experti argumentují tím, že by měl být AI generovaný obsah považován za méně škodlivý, protože nejsou zneužívány skutečné děti.

Další si myslí, že takový obsah může sloužit jako „bezpečný ventil“ pro různé druhy parafiliků, zatímco jiní upozorňují, že to může vést k větší poptávce po reálném zneužívání a posílit škodlivé chování – může tedy vzrůst i počet páchaných trestných činů.

Mezi jedince, kteří vyhledávají a konzumují CSAM, patří nejen různé druhy parafiliků a sběratelů pornografie, ale také uživatelé, kteří cíleně tvoří CSAM zaměřený na konkrétní osoby, aby je pak mohli vydírat. Motivace je tedy velmi různorodá.

Co se týče samotných dětí, v současnosti polovinu klientů naší poradny E-Bezpečí představují děti, které mají problém se sexuálním obsahem a které se staly terčem vydírání či vyhrožování. Zajímavé je, že častěji jde o chlapce.

AI dokáže samozřejmě zesílit toto závažné chování, protože pachatelům k útoku postačí jakákoli fotografie. Zatím však ve spojení s umělou inteligencí neevidujeme nárůst tohoto chování ani případy, kdy byla zneužita umělá inteligence k posílení útoku na dítě. Evidujeme několik případů, kdy si žáci například vyzkoušeli pomocí AI svléknout spolužačku – s podobnými situacemi mají zkušenost také v zahraničí, například ve Španělsku. Na hodnocení je však příliš brzo.