Zmatek, nejistota, chybějící pokyny, které mají vyložit klíčové povinnosti poskytovatelů AI systémů. Evropský akt o umělé inteligenci komplikuje podnikání inovativních technologických firem. Podle některých dokonce hrozí, že malé a střední firmy zastaví vývoj nových modelů, nebo s nimi nebudou expandovat za hranice.
Evropský AI Act, tedy regulace, která má Evropě zajistit zodpovědný a hlavně transparentní vývoj umělé inteligence, vstupuje v účinnost postupně. Část povinností je už závazná od letošního února. Další balík povinností na vývojáře a podniky využívající umělou inteligenc dopadne od letošního srpna. Firmy tak například budou muset informovat o tom, že na otázky klientů místo živých zaměstnanců odpovídá chatbot.
Zatímco velkým korporacím se jakž takž daří s přívalem nových povinností vypořádat, menší a mladé firmy se dostávají do potíží. „U startupů často narážíme na zbytečně složitou regulaci. Ubírá jim energii, kterou by mohly věnovat vývoji a návrhu produktu,“ upozorňuje spoluzakladatel a provozní ředitel vývojářského studia Applifting Filip Kirschner. Právě mladé firmy přitom tvoří jádro vývoje technologických systémů včetně těch s umělou inteligencí.
Roztříštěný dozor napříč Evropou
Co firmy pálí nejvíc, je absence jednoho správního místa, které by dohlíželo na využití umělé inteligence napříč Evropou. Firmy by se mohly na toto místo obracet i v případě, že podnikají ve více zemích Evropské unie a žádat od něj radu nebo konzistentní pokyny.
„Absence principu jednoho správního místa je špatně. Je naprosto klíčové mít v Evropě stejná pravidla a požadovat konzistentní kontroly,“ upozorňuje Prokop Simek, generální ředitel společnosti DX Heroes. Ta se zaměřuje na zvyšování efektivity IT týmů.
Mohlo by vás zajímat
Pro firmy, které operují ve víc zemích Evropské unie, to může znamenat výraznou komplikaci. V praxi absence jednoho správního místa přinese víc e-mailů, víc kontrol i víc nejistoty. „Znamená to, že firmy musí řešit komunikaci s úřady zvlášť v každé zemi, kde působí, i když vyvíjejí nebo provozují jeden a tentýž systém. To zvyšuje administrativní zátěž, komplikuje koordinaci a zvyšuje riziko nejednotného výkladu,“ vysvětluje generální ředitel digitálně-konzultační společnosti FLO Andrej Hájek.
EU zapomněla, co už znala
Princip jednoho správního místa, přezdívaný také one stop shop, přitom obsahuje celá řada starších unijních předpisů. Používá se například při přeshraničním výběru daně z přidané hodnoty. A uplatňuje se také například v oblasti ochrany osobních údajů podle evropského nařízení GDPR.
Tento princip mimo jiné znamená, že při regulaci na úrovni Evropské unie má každá společnost podnikající přes hranice jen jednoho hlavního dozorového regulátora. Ten pak koordinuje či zastupuje ostatní státy. „Například podle GDPR si společnost určí hlavní provozovnu v Evropské unie. Příslušný úřad v této zemi pak vede dohled i pro ostatní státy,“ vysvětluje partner DLA Piper Tomáš Ščerba. Pokud tedy má firma hlavní provozovnu v Česku, dohlíží na ni zdejší Úřad pro ochranu osobních údajů.
Jenže AI Act vychází z logiky systémové bezpečnosti. V té mají podle dělby úkolů v Evropské unii hlavní slovo jednotlivé členské státy. To patrně vedlo i k tomu, že Brusel svěřil dohled nad umělou inteligencí do rukou každého z nich.
Zastaví AI Act růst firem za hranice?
Absence úřední koordinace v oblasti umělé inteligence znamená zásah do citlivého místa. Kontrolní orgán v každé zemi tak může řešit podnět týkající se systémů s umělou inteligencí nezávisle. Na jednu firmu tak může přijít v krátkém sledu více kontrol, navíc s různými požadavky. Situace je o to horší, že členské země Evropské unie se teprve učí, jak se s umělou inteligencí vypořádat.
„Jeden úřad může postupovat rychle a přísně, jiný pomaleji nebo vstřícněji. Jjeden může ukládat vyšší pokuty než druhý. To zvyšuje právní nejistotu pro firmy, které působí ve více zemích,“ poukazuje na možné dopady Ščerba.
Menší a střední firmy může absence jednoho kontaktního místa ohrozit natolik, že zastaví expanzi na zahraniční trhy. „Místo aby se soustředily na produkt, budou muset řešit rozdílné požadavky regulátorů. V konečném důsledku tím může Evropa ztratit část své inovační kapacity. Ne proto, že by měla přísná pravidla, ale protože je aplikuje neefektivně,“ obává se Andrej Hájek.
Jedna kontaktní adresa chybí i Česku
Nejde ale jen o přeshraniční otázky. Roztříštěné kompetence trápí i Českou republiku. Ani v jejím „správním obvodu“ totiž firmy nevyřeší všechny otázky související s umělou inteligencí na jednom místě.
„K dispozici bude Český telekomunikační úřad jako lokální AI office. Ale podněty na úseku ochrany osobních údajů bude řešit Úřad pro ochranu osobních údajů a případy, jako je například diskriminace algoritmy, také ombudsman,“ popisuje Tomáš Ščerba z DLA Piper.
Jak se s absencí one stop shop vypořádat?
Absence jednoho kontaktního a správního místa bude klást zvýšené nároky na compliance oddělení technologických společností. I když je AI Act přímo použitelný předpis, v některých oblastech odkazuje na národní zákony. Úřady jednotlivých členských zemí také mohou vydávat své vlastní pokyny. Společnosti tedy musí sledovat a přenést do svého fungování i případné místní výklady či doplňující předpisy.
„Z praktického hlediska to vyžaduje mít dostatečné personální kapacity pro každou zemi. Je vhodné mít v každé zemi specialistu na AI Act nebo případně právního zástupce, který bude s tamním úřadem jednat,“ radí Tomáš Ščerba.
Firmy podle něj budou raději dobrovolně volit přísnější opatření, než aby riskovaly, že pro některou ze zemí, v níž podnikají, úřady shledají jejich systém nedostatečným. „Absence jednotného orgánu tlačí k unifikovanému a vysokému standardu při implementaci AI Actu. Obecně mají firmy lepší vsadit na jistotu, než čelit přísným pokutám,“ míní Ščerba.
I to ale podle expertů nebezpečně svazuje byznys a snižuje konkurenceschopnost Evropy ve vývoji umělé inteligence. „Pokud chceme mít v Evropě AI šampiony, měli bychom jim dát jednotného partnera, ne 27 různých telefonních čísel,“ uzavírá Filip Kirschner z Appliftingu.
