Internet zaplavily v posledních měsících nahé fotografie. Jenže to nebyly skutečné fotografie, ale „svlečené“ verze originálních obrázků generované umělou inteligencí. Osoby na původních obrázcích o tom neměly ani ponětí. Také proto mají být nástroje umělé inteligence pod větší kontrolou, požaduje europoslanec Sergey Lagodinsky (Zelení/Německo).
Umělá inteligence dokáže „svléknout“ kohokoli během několika sekund. Navíc bez jeho vědomí a souhlasu. Unijní pravidla sice vyžadují, aby byly takzvané deepfake řádně označeny, ale výslovně nezakazuje systémy umělé inteligence, které generují sexualizovaný obsah bez souhlasu zobrazených osob. Evropští poslanci to chtějí změnit.
Za zpřísněním pravidel stojí Sergej Lagodinskij (Zelení/GER). Navrhl to v právním výboru Evropského parlamentu v rámci změn ke zjednodušení pravidel pro umělou inteligenci, takzvanému omnibusu. Chce do právní úpravy přidat omezení pro systémy umělé inteligence, které dokážou generovat nebo manipulovat sexualizovaný zvuk, obrázky nebo videa jednotlivců bez jejich souhlasu. Zakázané praktiky AI upravuje článek 5 nařízení o umělé inteligenci.
Od označování k zákazu
Podle současného změní nařízení o umělé inteligenci musí být manipulované obrázky nebo videa označeny a dodržovat pravidla transparentnosti. Uživatelé musí mít informace o tom, že co vidí, není skutečné. Nerozlišují ale mezi uměleckým, satirickým, politickým ani jiným využitím těchto úprav.
Lagodinskij proto navrhl, aby se nástroje pro „svlékání“ nebo technologie sexualizace bez souhlasu v Unii plošně zakázaly. „Musíme jít nad rámec transparentnosti u deepfaků, které jsou v rozporu s lidskou důstojností a jsou částečně trestné,“ řekl pro EU Perspectives.
Pornografická falešná videa
Návrh reaguje také na novou kontroverzi, kdy se ukázalo, že chatbot Grok od sociální sítě X generoval sexualizované deepfaky. Nejedná se ale o ojedinělý případ. Výzkum organizace CEE Digital Democracy Watch ukazuje, že až 96 procent online deepfake videí je pornografických a téměř všechna jsou zaměřena na ženy. Stále častěji se manipulovaná videa týkají také nezletilých osob, zejména ve školním prostředí.
Lagodinsky uvedl, že právě nařízení o umělé inteligenci musí reagovat na uvádění nebezpečných nástrojů umělé inteligence na trh. „Chceme zakázat konkrétní technologii,“ upřesnil.
Mohlo by vás zajímat
Nařízení navíc vyžaduje, aby bruselská exekutiva pravidelně posuzovala, zda má aktualizovat seznam zakázaných praktik. Lagodinsky dodal, že v rámci debaty o zjednodušení pravidel pro digitální sektor má jít v první řadě o vytvoření právní jistoty, nejen o samotnou dergulaci.
Obavy české zástupkyně
Také česká europoslankyně zvolená za Piráty Markéta Gregorová (Zelení/Česká republika) nesouhlasí s pouhým rušením pravidel v rámci digitálního omnibusu. Už dříve kritizovala navrhované zrušení článku 6 nařízení o umělé inteligenci, který se týká transparentnosti. Tento článek ukládá dodavatelům vysoce rizikových systémů povinnost uvést je ve veřejném registru.
Nelíbí se ji ani navrhované zmírnění požadavků pro ochranu osobních údajů v rámci Obecného nařízení o ochraně osobních údajů (GDPR).
