Hospodářská komora, Unie zaměstnavatelských svazů a Úřad pro ochranu osobních údajů varují před nejasnostmi v návrhu zákona o umělé inteligenci. Předpis, který má doplnit fungování evropské regulace AI v českých podmínkách, považují za příliš stručný a technokratický. Návrh podle nich nedostatečně vymezuje klíčové postupy například při dozoru a testování umělé inteligence. To může ztížit praktické využití novinek.

Ministerstvo průmyslu a obchodu chtělo vytvořit minimalistický předpis, který by nešel nad rámec již účinného evropského nařízení o umělé inteligenci. Nechce českou právní úpravou přidávat zdejším podnikatelům a vývojářům další povinnosti. Jenže právě s tím narazilo u podnikatelů i některých úřadů. Přílišná stručnost navrhované normy a ponechání některých vysvětlení „na později“, tedy na metodiky a vyhlášky, může podle nich vést ke komplikacím. A Česko ve vývoji umělé inteligence poškodit.

„Velmi zkratkovitě jsou upraveny např. procesní postupy a předpisy, podle kterých by se při dozoru mělo postupovat,“ upozornil ve svých připomínkách k návrhu Úřad pro ochranu osobních údajů. Návrh podle něj také primárně řeší vysoce rizikové systémy AI, zatímco méně rizikové ponechává stranou.

Co je sandbox? Chybí definice

Zvláštní pozornost připomínkových míst se soustředí na takzvaný regulatorní sandbox, tedy chráněný „trenažér“, kde si firmy mohou testovat systémy AI pod dohledem úřadů. Unie zaměstnavatelských svazů požaduje, aby zákon jasně definoval, co pojem sandbox znamená. „Pokud návrh pracuje s tímto pojmem, musí být zřejmé, co přesně se tímto pojmem myslí. Je proto vhodné zakotvit z pohledu právní jistoty tuto definici přímo do návrhu zákona a nespoléhat se na určitou definici v AI Aktu,“ uvedla unie ve svých připomínkách.

Podobně vyzývá k vyjasnění podmínek vzniku sandboxu i ministerstvo spravedlnosti. Hospodářská komora k tomu přidává: „Sandbox je navržen jen v gesci ministerstva průmyslu a obchodu ČR/České agentury pro standardizaci, bez účasti sociálních partnerů. Hrozí, že se z něj stane čistě technické testování, a nikoli platforma pro ověření dopadů AI na pracovní trh a zaměstnance.“

Mohlo by vás zajímat

Návrh nechrání citlivé informace a know-how

Zástupcům podnikatelů i právníkům zabývajícím se umělou inteligencí vadí také to, že návrh zákona jasně neříká, jak budou v rámci sandboxu chráněna citlivá data podnikatelů a informace o slabinách jejich systémů. Obávají se, že takto získané informace z chráněného prostředí by pak stát mohl využít při kontrolách a udělování pokud.

Podle Svazu průmyslu a dopravy může absence jasných pravidel v zákoně dokonce ochromit fungování trenažéru. A zmařit tak i cíl dostat Česko mezi světové AI lídry. „Pokud stát nebude jasně deklarovat, že sdílené informace nebudou použity v kontrolních řízeních, může to odradit řadu podniků od účasti v sandboxu,“ obává se manažerka pro digitální ekonomiku svazu Anna Hroudová.

Jiří Štěpán z Etnetera Group volí ještě silnější slova. „Jde o promarněnou příležitost, jak firmy do sandboxu aktivně přilákat,“ říká. I kdyby pravidla, která má pro fungování trenažéru dodatečně nastavit Českou agenturou pro standardizaci, vypadala na začátku slibně, hrozí, že je stát může později snadno a rychle měnit.

Během testování nových produktů v rámci sandboxu musí podniky sdílet citlivé obchodní informace, know-how i duševní vlastnictví. „Jakmile důvěrnost těchto informací není právně garantována, je jejich ochrana obtížně vymahatelná,“ varuje advokátka White & Case Anna Stárková.

Zkoordinovat dozor

Další výhrady směřují k absenci jediného kontaktního místa pro firmy pracující s umělou inteligencí. Současný návrh dělí pravomoci mezi Český telekomunikační úřad, Úřad pro ochranu osobních údajů a Českou národní banku. Podrobnosti jejich vzájemné koordinace explicitně neupravuje. To podle expertů může zvýšit právní nejistotu a zpomalit rozhodovací procesy.

Jedno centralizované kontaktní místo by přitom mohlo zvýšit právní jistotu vývojářů v komunikaci s úřady. „Kdyby existoval jeden centralizovaný úřad, který by agregoval postupy všech institucí a komunikoval se žadatelem, bylo by to pro firmy výrazně jednodušší,“ říká partner advokátní kanceláře DLA Piper Tomáš Ščerba. Česko by tak mohlo získat oproti dalším zemím unie konkurenční výhodu a přitáhnout na zdejší trh i zahraniční podniky.

Finanční krytí stále nejasné

Do toho, zda bude česká verze umělé regulace opravdu funkční, promluví ale také peníze. Právě otázka financování dohledových aktivit a sandboxu, vyvolává napětí mezi ministerstvem průmyslu a obchodu, které zákon sepsalo, a ministerstvem financí. Resort financí ve svých připomínkách uvádí, že předložený návrh předpokládá poskytnutí finančních prostředků ze státního rozpočtu v letech 2026 až 2028 celkem ve výši 207 milionů korun. Avšak přesný mechanismus jejich uvolnění a alokace mezi ministerstva zůstává nejasný.

Ministerstvo financí požaduje, aby resort průmyslu, Český telekomunikační úřad našly peníze ve svých rozpočtech. A nezatěžovaly dodatečnými požadavky státní rozpočet.

Zajištění dodatečných peněz například na nová služební místa, která musí vzniknout kvůli dohledu, přitom resorty průmyslu a financí jednaly již během zimy a jara. Ministerstvo průmyslu a obchodu poté informovalo, že resort financí požadavky na dodatečné finance zohlední.

„Je jasné, že Česká republika tyto prostředky bude muset najít, aby zákon měl smysl,“ upozorňuje partner advokátní kanceláře DLA Piper Tomáš Ščerba. Hledat by je měla o to rychleji, že se podle schválené strategie chce do roku 2030 mezi top deset zemí ve vývoji AI na světě. Na otálení a přetahování o peníze tedy nezbývá moc času.

Nejistá budoucnost návrhu

Návrh zákona o umělé inteligenci připravilo ministerstvo průmyslu a obchodu ještě před říjnovými volbami do Poslanecké sněmovny. Dokončit a provést legislativním procesem ho ale musí už nová vláda. Takové načasování není ideální. Vyvstávají pochybnosti, zda nová bude chtít pravidla připravená svými předchůdci převzít. Avšak podle náměstka ministra průmyslu a obchodu Jana Kavalírka je dotažení regulace umělé inteligence prioritou pro všechny. „Máme informaci od ostatních politických stran, že je to pro ně téma a pokračovat by v tom chtěly,“ uvedl Kavalírek.