Digitální regulace se v Evropské unii vymkla kontrole, varuje viceprezidentka Svazu průmyslu a dopravy ČR Milena Jabůrková. Transparentnost systémů, jejichž prostřednictví chce Evropská unie chránit spotřebitele, se stala mantrou nové legislativy. Podle Jabůrkové ale přinese chaos, zmatek a hrozbu pro inovace.
„Pro nás jako pro byznys transparentnost není problém, protože to zvyšuje důvěru v produkty. Nicméně cesta do pekla je dlážděna dobrými úmysly,“ upozornila Milena Jabůrková v podcastu České justice a Ekonomického deníku Perspektivy Česka.
Jako příklad uvádí přípravu nařízení o umělé inteligenci, které podle ní vzniká pod tlakem, bez konzultace s firmami a v podobě, která podniky spíš dusí, než aby jim pomáhala. „Zodpovědnost nevidíme ani na straně Evropské unie ani na straně české vlády, která spolu se španělským předsednictvím tuto podobu dojednala,“ prohlásila.
Jednota v pravidlech a požadavcích chybí
Problém je i přehlcení firem stupňující se digitální regulací. Na firmy se z Bruselu v posledních letech navalila skoro stovka jiných digitálních předpisů. Mezi nimi normy, jako je nařízení o digitálních službách, akt o digitálních trzích, nařízení o datech a mnohé další. Řada z nich přitom stejně jako AI Act klade důraz na transparentnost systémů. Jenže jednota v pravidlech a požadavcích jim chybí.
„Business Europe analyzovala 13 legislativních předpisů, které se týkají digitálu, a označila jako duplikace 169 požadavků. 29 % z těchto požadavků byly odlišnosti. Přímých nekonzistentností, které jdou proti sobě, bylo 11 %,“ varuje Jabůrková.
Mohlo by vás zajímat
Vysvětlit nevysvětlitelné
Jedním z klíčových požadavků nové digitální legislativy je právě transparentnost algoritmů. Firmy mají umět vysvětlit, jak jejich umělá inteligence funguje, na základě jakých dat rozhoduje a proč vydává konkrétní výstupy. Jenže právě tady podle technologických expertů narazila regulace na technickou realitu.
„Umělá inteligence je obrovské množství algoritmů. Od jednoduchých lineárních regresí a rozhodovacích stromů po obrovské deep learning neuronové sítě. A ty se liší ve schopnosti vysvětlit svá rozhodnutí – proč něco predikovaly, doporučily nebo klasifikovaly,“ říká generální ředitel společnosti Etnetera Group Jiří Štěpán.
Etnetera Group už roky dělá algoritmy pro e-shopy a propojení komunikačních nástrojů. Na to, že jejich rozhodovací mechanismy se obtížně vysvětlují navenek, naráží i v případě nejjednodušších produktů. „Víme, jak je těžké opravdu vysvětlit, proč zrovna pro daného uživatele doporučil algoritmus produkt A místo produktu B,“ dodává Štěpán.
Podobně mluví i Filip Kirschner, spoluzakladatel vývojářského studia Applifting. „Bude to těžké. Zvlášť když máme vysvětlovat modely tak komplexní, že ani jejich vývojáři nedokážou s naprostou jistotou popsat všechny nuance jejich vnitřního fungování,“ řekl České justici.
Od marketingu přes HR až po výrobu
Nejde ale jen o vývojáře a softwarové firmy, které musí nová evropská pravidla řešit. Dopad takzvaného AI Actu bude mnohem širší. Dotkne se každého, kdo umělou inteligenci využívá v podnikání. „Pravidla budou platit pro všechny, kdo umělou inteligenci používají, ať v marketingu, v personalistice, v doporučování produktů nebo ve výrobě. Dolehne i na firmy, které používají třeba opensource modely,“ varuje Milena Jabůrková.
Ti všichni budou muset posoudit rizika používaných systémů s umělou inteligencí a vysvětlit jejich fungování srozumitelně spotřebitelům. Výjimku regulace dává jen pro případy, kdy programy s umělou inteligencí používají lidé soukromě v rámci osobní neprofesionální činnosti. „Ve výsledku regulace zasahuje desetitisíce AI řešení,“ uvedla v Perspektivách Česka advokátka White & Case Anna Stárková. Za nesplnění požadavků EU hrozí firmám, které je vyvíjí a používají, pokuty.
Transparentnost musí být oboustranná
Zatímco firmy mají být pod drobnohledem, samotní regulátoři podle Jabůrkové selhávají ve své vlastní povinnosti být transparentní. Příkladem jsou třeba chybějící vodítka, která mají pomoci s výkladem obecných ustanovení AI Actu.
Na nutnost otevřené komunikace a přístupu úřadů poukazuje i Anna Stárková: „Transparentnost není jen povinnost regulovaných subjektů, ale i povinnost regulátora transparentně komunikovat vůči trhu.“ Bez férového přístupu a předvídatelnosti podle ní regulace nebude mít kýžený efekt.
Není to hrozba, je to realita
Jabůrková debatu uzavřela s důrazným apelem na Evropskou komisi: Pokud chce unie skutečně podpořit digitalizaci a inovace, musí regulaci zpomalit, zpřehlednit a udělat ji realistickou. „Musíme neustále tlačit Evropskou unii, aby zjednodušovala. To je potřeba,“ zdůraznila Jabůrková.
AI Act v současné podobě podle ní ohrožuje nejen startupy, ale i zavedené firmy, které běžně pracují s daty a algoritmy. Pokud regulace nebude reflektovat jejich realitu, přinese přesný opak toho, co zamýšlí: Místo důvěry chaos. Místo pokroku úpadek.
