Umělá inteligence rázně vkročila do našich každodenních životů. Už není jen pomocníkem, ale i zbraní v dezinformačních válkách, které dokážou zásadně ovlivnit demokratické volby. Proto se stále častěji hovoří o zavedení globálních pravidel pro používání této technologie. Rámcová úmluva Rady Evropy má ambici sjednotit přístup států v boji proti manipulacím, které ohrožují základy demokratických politických systémů.
„Umělá inteligence může představovat skutečnou hrozbu nejen pro jednotlivce, ale i pro samotnou demokracii,“ řekl v rozhovoru pro EU Perspectives evropský poslanec Paulo Cunha (EPP/Portugalsko).
Také proto vznikla Rámcová úmluva Rady Evropy o umělé inteligenci. První právně závazná dohoda svého druhu zavádí standardy transparentnosti, řízení rizik a dohled nad ochranou základních práv, demokracie a právního státu. Od roku 2022 se začala vyjednávat v rámci Rady Evropy s dalšími partnery, včetně Spojených států, Japonska a Kanady.
Evropský blok už nařízení o umělé inteligenci má. Proč potřebuje další regulaci ve formě mezinárodní úmluvy?
Přináší několik výhod, které považujeme za velmi důležité. První je, že dává globální rozměr tomu, co bylo dosud v podstatě evropským nástrojem. Nařízení o umělé inteligenci je ze své podstaty omezeno na regulační prostor Evropské unie. Umělá inteligence se však neomezuje pouze na Evropu. Má globální dopad, a proto vyžaduje regulaci jiného rozsahu.
Druhý rozdíl spočívá v povaze nástrojů. Zákon o umělé inteligenci stanoví konkrétní soubor pravidel se specifickými povinnostmi a standardy. Úmluva má naopak širší a strukturálnější roli. Často ji popisuji jako jakousi „ústavu pro umělou inteligenci“. Nejde do stejné úrovně detailů ani nedefinuje práva a povinnosti ve striktním slova smyslu. Místo toho vytváří obecný zastřešující rámec, pod nímž se mohou rozvíjet různé regulační přístupy, ať už územní nebo tematické.
Třetím hlavním rozdílem je její rozsah působnosti. Úmluva se zabývá umělou inteligencí ve třech základních oblastech: ochranou základních práv, demokracií a právním státem. To je inovativní. Stávající pravidla se zaměřují především na ochranu práv, což je nezbytné. Demokracie a právní stát ale nebyly ústředním bodem regulace umělé inteligence. Tato úmluva je staví na stejnou úroveň. To je zásadní, protože musíme také zajistit fungování našich demokratických systémů a právního řádu jako celku.
Nedávný případ v Rumunsku s údajným vnějším vměšováním do volebního procesu, které vedlo ke zrušení voleb, je jasným varováním. Ukazuje, že umělá inteligence může představovat skutečnou hrozbu nejen pro jednotlivce, ale i pro samotnou demokracii.
Demokracie a dezinformace
Co tato úmluva v praxi vlastně mění, pokud jde o volební manipulaci?
Je to závazný nástroj. Nicméně je důležité pochopit, co v tomto kontextu znamená „závaznost“. Neznamená to automaticky sankce, jako jsou pokuty nebo tresty odnětí svobody. Jedná se o dohodu mezi státy, která funguje odlišně od národních právních systémů.
Úmluva stanoví normativní rámec, který musí státy dodržovat. To samo o sobě je významné. Právo často funguje jako poslední možnost. Používá se, když společenské normy, etika a zavedené postupy nestačí k řešení problému.
Mohlo by vás zajímat
Ve vztazích mezi státy funguje vymáhání práva odlišně. Sankce se neuplatňují stejným způsobem jako v rámci národního právního systému. To však nástroj neoslabuje, odráží povahu mezinárodního práva.
Umělá inteligence se používá v konfliktech a dezinformačních kampaních. Co může úmluva změnit?
Je pravda, že umělá inteligence se již používá jako nástroj agrese v dezinformačních kampaních. Pokud však okamžitě začneme s čistě sankčním přístupem, riskujeme, že zcela odradíme státy od účasti na úmluvě.
Máme co do činění s velmi složitou a stále se vyvíjející oblastí. Ani rozlišování mezi nepravdivými a pravdivými informacemi není vždy jednoduché. V mnoha případech není odpověď jen černá nebo bílá. Existuje mnoho šedých zón.
Jediný způsob, jak se s tímto problémem efektivně vypořádat, je spolupráce. A to i s těmi, kteří technologii vyvíjejí. Součástí řešení musí být inženýři, vývojáři a společnosti.
Mohlo by přijetí na úrovni Unie ještě něco zabránit? Očekáváte odpor členských států v Radě EU?
Upřímně ne. Jednání mezi Evropskou komisí, Evropským parlamentem a Radou byla dobře sladěna. Pokud se podíváme na úroveň politické podpory, je jasné, že se nejedná o ideologickou otázku. Není to otázka levice nebo pravice. Z tohoto důvodu považuji za nepravděpodobné, že by se jakákoli vláda rozhodla tento proces zablokovat.
Jedná se o evropskou iniciativu. Proč by měly země mimo EU věnovat novému nástroji pozornost?
Na rozdíl od nařízení o umělé inteligenci má tato úmluva výslovně mezinárodní rozsah. Není náhodou, že se země jako Spojené státy a Japonsko již účastní a že další jsou v procesu připojování.
EU se nezaměřuje pouze na regulaci v rámci svých vlastních hranic. Vždy existuje širší ambice. Nejen jednat, ale povzbuzovat ostatní, aby jednali stejným způsobem. To odráží dlouhodobou myšlenku evropského vůdčího postavení. Od průmyslové revoluce až po rozvoj demokratických systémů a standardů lidských práv.
Opravdu očekáváte, že se Spojené státy nakonec připojí?
Věřím, že ano, protože nejde o omezování inovací ani o cílení na konkrétní zemi. Jde o vyvážení silné technologie s potřebou chránit základní principy. Spojené státy mají také zájem na ochraně své demokracie, právního státu a svých občanů. Je těžké si představit, že by jakákoli administrativa byla ochotna akceptovat, že by v této souvislosti mohla být ohrožena základní práva, jako je ochrana osobních údajů.
Nejde o geopolitický problém, ani o otázku Východ versus Západ. Úroveň podpory v Evropském parlamentu jasně ukazuje, že se jedná o záležitost napříč stranami. Z tohoto důvodu jsem přesvědčen, že Spojené státy tento krok nakonec podniknou.
Jak bude úmluva ve skutečnosti fungovat?
Proces má několik fází. Dokončili jsme schválení přistoupení k EU. Další fází je šíření – propagace osvědčených postupů a povzbuzování dalších zemí k připojení. Poté následuje implementace.
Je důležité být realistický: tato úmluva není všelékem. Neposkytuje okamžité odpovědi na všechny výzvy, kterým dnes čelíme. Ani na ty, které identifikujeme v budoucnu. Umělá inteligence se rychle vyvíjí a existuje mnoho rizik, kterým stále plně nerozumíme.
Celý rozhovor v angličtině, který vyšel na EU Perspectives, si přečtěte ZDE.
