Česká republika chce v Bruselu zabojovat o zmírnění regulace umělé inteligence. České justici to řekl náměstek ministra průmyslu a obchodu Jan Kavalírek. Byznys jeho snahu vítá. Zvlášť pro malé a střední firmy je adaptace na nová pravidla finančně náročná a ve stanovených termínech takřka nezvládnutelná.
„AI Act se jako celek nezruší, to jsem si jistý. Ale jde o to zrevidovat některé konkrétní požadavky,“ prohlásil Jan Kavalírek. S regulací a byrokracií zde zašla Evropská unie podle něj příliš daleko.
Ministerstvo průmyslu a obchodu by na evropské půdě podpořilo iniciativu digitálního omnibusu. Ta má zjednodušit ty požadavky aktu o umělé inteligenci, které přináší zbytečnou byrokracii a nepřispívají k posílení důvěryhodnosti umělé inteligence. „Cílíme hlavně na reportingové aktivity a objem dokumentace,“ uvedl Kavalírek.
Česko se tak přidává na stranu Francie. Její prezident Emanuel Macron nedávno prohlásil, že se Evropa musí zbavit byrokratické zátěže, aby při rozvoji AI nezaostávala za Spojenými státy a Čínou.
Mohlo by vás zajímat
Příliš komplikovaná pravidla
Evropský akt o umělé inteligenci se stává právně závazným postupně. Některé jeho části, jako jsou zakázané praktiky umělé inteligence, zákaz systémů s nepřijatelným rizikem nebo požadavky na AI gramotnost, už platí. Firmy po celé Evropě včetně těch českých se s nimi musí naučit pracovat, zejména pokud chtějí uspět v zahraničí. Další část nových pravidel, týkající se vysoce rizikových systémů, vstoupí v účinnost letos v srpnu. Zbytek normy pak příští rok v létě.
Jenže už samotné pochopení složitých pravidel AI Actu je pro malé hráče výzvou. „Legislativa je velmi rozsáhlá a vyžaduje detailní znalosti. Podniky často tápou, zda jejich systém spadá do vysoce rizikové kategorie, jaké přesné standardy mají splnit a jak posoudit případná etická rizika. Tato právní nejistota je sama o sobě zásadní překážkou,“ říká partner advokátní kanceláře DLA Piper Tomáš Ščerba. A staví se za zmírnění pravidel.
Za vysoce problematické experti považují i evropskými pravidly vyžadované úpravy algoritmů, nehledě na celkovou časovou a finanční náročnost přechodu na ně a zavádění nových interních procesů.
„Studie provedená Evropskou unií v roce 2021 odhadla, že roční náklady na dodržování předpisů pro každý model umělé inteligence klasifikovaný jako vysoce rizikový budou přibližně 52 tisíc eur,“ uvádí advokátka White & Case a specialistka na právo umělé inteligence Anna Stárková a dodává: „Tato částka zahrnuje 29 tisíc eur na interní požadavky na soulad, jako je dodatečná dokumentace a lidský dohled, a 23 tisíc eur na externí náklady spojené s posouzením shody.“ To představuje zátěž nejen pro startupy, ale i pro technologické giganty.
EU svůj trh stejně neubrání, tvrdí šéfové firem
Řada šéfů technologických společností se netají pochybnostmi nad smyslem celé regulace umělé inteligence „Evropská unie není lídrem v AI. Současně nemá schopnost efektivně bránit svůj trh před umělou inteligencí jiných zemí. K čemu tedy AI Act bude? Naše globální konkurence zvýší svůj náskok. Dopady na spotřebitele a společnost budou stejné,“ míní generální ředitel technologické společnosti Etnetera Group Jiří Štěpán. A poukazuje na hrozbu skryté manipulace ze strany amerických a evropských firem.
Potíže byznys vidí v samotné povaze AI Actu, který evropští zákonodárci koncipovali jako technicky velmi náročnou regulaci. „Pokud chceme, aby v Evropě vznikaly kvalitní a bezpečné AI produkty, musíme zajistit, že se do vývoje vůbec někdo pustí, a to zejména v případě malých a středních podniků,“ říká spoluzakladatel a COO vývojářského studia Applifting Filip Kirschner.
Byrokracie spojená s novou regulací by podle něj mohla začínající firmy zabít. „Zmírnění má smysl hlavně u dokumentace, reportingu a duplicity s jinými regulacemi. Etické mantinely jsou v AI Actu nastavené dobře a měly by zůstat,“ dodává Kirschner.
Spěchat, nebo vyčkat?
Právní experti na seznam potíží nové regulace ještě přidávají spěch, se kterým má vstoupit do praxe. Přecházet na nová pravidla totiž nestíhají ani podniky, ani zákonodárci. A to na české i evropské úrovni.
Chybí například oficiální vodítka, která mají obecnou právní úpravu stanovenou v aktu dovysvětlit. Hrozí tak, že se firmy budou muset připravovat na regulace nadvakrát – poprvé podle obecných pravidel AI Actu a podruhé, až evropské orgány dokončí příslušné pokyny. „Podnikatelé vůbec neví, zda to, na co se připravují, ve výsledku vůbec budou moci použít. Tato nejistota značně navyšuje jejich náklady na adaptaci na nová pravidla,“ varuje Stárková z White & Case.
Na evropské úrovni se aktuálně připravuje celkem 11 prováděcích aktů a kodexů správné praxe, jejichž cílem je zajistit efektivní a jednotnou aplikaci AI Actu napříč členskými státy. Jde například o požadavky na označování obsahu generovaného umělou inteligencí či šablony plánů monitorování vysoce rizikových systémů AI po jejich uvedení na trh.
Dále Evropská komise připravuje deset aktů v přenesené pravomoci, které upravují technické a kategorizující aspekty AI Actu. Do této kategorie dokumentů patří zejména kritéria pro vynětí systémů z kategorie vysoce rizikových nebo požadavky na technickou dokumentaci pro vysoce rizikové systémy a obecné modely umělé inteligence.
Firmy i legislativa nabírají zpoždění
Zpoždění přitom nabírá už příprava prvních z dlouhého seznamu vodítek a vysvětlujících pokynů. „Komise pověřila evropské normalizační agentury CEN a CENELEC vypracováním harmonizovaných standardů týkajících se povinných požadavků na systémy AI s vysokým rizikem, a to ve lhůtě do 30. dubna 2025. Tento termín ale organizace nedodržely, příslušné normy dosud nejsou dokončeny,“ upozorňuje Stárková. Zpoždění na straně Evropské unie považuje za silný důvod, proč by zákonodárci měli účinnost celého aktu o umělé inteligenci odložit.
„Některá ustanovení AI Actu zároveň vstupují v platnost už dva roky po jeho schválení, což firmám dává velmi omezený čas na adaptaci. Mohlo by tak pomoci prodloužení přechodných období či zavedení fázové implementace,“ doporučuje Tomáš Ščerba z DLA Piper. Stejně tak by revize měla zohlednit souběh s dalšími regulacemi, například v oblasti zdravotnických prostředků.
Ščerba vítá také Kavalírkovu snahu ubrat administrativní zátěž a byrokracii. Prostor pro zlepšení vidí především u pravidel pro vysoce rizikové AI systémy. Právě na ně totiž regulace klade řadu povinností – od posouzení shody, tedy že systém odpovídá požadavkům nařízení o umělé inteligenci, přes audity či vedení technické dokumentace.
„Tyto povinnosti sice zvyšují bezpečnost systému, ale zároveň mohou brzdit inovace a konkurenceschopnost. Malé společnosti mnohdy nedisponují takovou ekvitou, aby si mohly dovolit nákladné compliance,“ upozorňuje Ščerba. V neposlední řadě by pak podle něj mohla Evropská unie slevit z některých sankcí, které za porušení pravidel AI Actu hrozí. Týkat by se to mohlo firem, které už splňují ISO standard o umělé inteligenci.
Doba zmírnění regulace přeje, míní Kavalírek
Ministerstvo průmyslu a obchodu věří, že přišel správný čas výtkám firem a jejich právníků naslouchat. Vyjít vstříc by jim mohla i Evropská unie. Doba je tomu podle Kavalírka nakloněna. „Nálada v EU se naštěstí začíná posouvat. Stále více představitelů si uvědomuje, že jsme s regulací a byrokracií zašli příliš daleko. Doufám proto, že soustavnou snahou se to podaří,“ uzavřel Kavalírek.
