Poslanci Evropského parlamentu schválili balíček opatření, který zjednodušuje a zmírňuje legislativu regulující technologie umělé inteligence (AI). Klíčovou součástí schváleného návrhu je i úplný zákaz tzv. „svlékacích aplikací“, který do textu prosadila česká europoslankyně Markéta Gregorová (Piráti) z frakce Zelených.
Pro návrh se vyslovilo 423 poslanců, 57 jich hlasovalo proti a 174 se zdrželo.
Zákaz tvorby intimního obsahu bez souhlasu
Zákaz aplikací sloužících k digitálnímu svlékání osob začne platit od 2. prosince letošního roku. Nově bude zakázáno uvádět na unijní trh systémy AI určené k vytváření takového obsahu, případně systémy bez dostatečných bezpečnostních pojistek, které by generování těchto materiálů bránily.
Text konkrétně zmiňuje „materiál zobrazující sexuální zneužívání dětí nebo zobrazující intimní partie identifikovatelné osoby či takový, který ji zachycuje při sexuálně explicitních činnostech bez jejího souhlasu“.
Odklad povinností pro vývojáře
Schválený návrh zároveň vychází vstříc firmám a odkládá některé povinnosti vyplývající z tzv. Aktu o AI. Pro vysoce rizikové systémy, které jsou v nařízení výslovně uvedeny, začnou pravidla platit až od 2. prosince 2027. U systémů, které spadají pod specifická odvětvová pravidla EU, se termín posouvá dokonce až na 2. srpna 2028.
Balíček má rovněž odstranit duplicitní požadavky na AI u strojních zařízení. Pokud se povinnosti překrývají s existující regulací daného sektoru, budou systémy muset splňovat pouze bezpečnostní standardy platné pro strojírenství jako celek.
Nová definice rizik a úlevy pro menší firmy
Europoslanci dále zpřesnili definici tzv. bezpečnostní komponenty. Výrobky s AI funkcemi, které uživatelům pouze pomáhají nebo optimalizují výkon, nebudou automaticky považovány za vysoce rizikové – podmínkou je, že jejich případné selhání neohrožuje zdraví či bezpečnost.
Změny se dotkly i ochrany osobních údajů. Firmy je budou moci zpracovávat, pokud to bude „nezbytně nutné k odhalení a nápravě zkreslení“ (tzv. biasu) u algoritmů. Předpis také rozšiřuje výjimky z administrativních povinností pro malé a střední podniky.
Rozporuplné reakce: Ochrana obětí vs. obavy z obcházení
„Cílem tohoto balíčku bylo zajistit právní jistotu prodloužením některých lhůt při zachování struktury Aktu o AI a posílení ochrany tam, kde to bylo možné,“ uvedl irský europoslanec Michael McNamara, jeden ze zpravodajů návrhu. Zdůraznil, že se podařilo najít shodu na omezení byrokracie u strojních zařízení i na úplném zákazu svlékacích aplikací.
„Jsem ráda, že se mi podařilo prosadit tvrdý zákaz aplikací, které umí za pár kliknutí vytvořit nahou fotku kohokoliv. Oběťmi jsou především ženy a děti. Nová pravidla donutí technologické firmy zneužití těchto nástrojů natvrdo blokovat,“ uvedla Markéta Gregorová s odkazem na chatboty, jako je Muskův Grok, které podobný obsah generují v masovém měřítku.
Mohlo by vás zajímat
Opačný názor vyjádřil europoslanec Jaroslav Bžoch (ANO). Podle něj zákaz svlékacích aplikací kvalitu legislativy snižuje. „Odborníci vám řeknou, že u jakékoliv AI to trochu chytřejší programátor dokáže obejít. Takže to jen vývojářům znepříjemní život,“ uvedl Bžoch. Debatu o tom, co přesně definuje svlékací aplikaci, označil za absurdní, přestože balíček jako celek podpořil kvůli snaze o zjednodušení pravidel.
Skandály na sociálních sítích
Problematika sexualizovaného obsahu generovaného umělou inteligencí rezonuje společností zejména v posledních měsících. Rozbuškou se stal skandál na sociální síti X (dříve Twitter) Elona Muska, kde uživatelé pomocí nástroje Grok hromadně vytvářeli a šířili pornografické fotomontáže skutečných žen a dětí bez jejich vědomí.
