Umělá inteligence má Evropany chránit před podvody, zneužitím dat i nebezpečnými aplikacemi. Firmy ale upozorňují, že největším problémem už nejsou přísná pravidla, nýbrž to, že dlouho nevědí, jak je mají splnit. Právě právní nejistota podle nich dnes brzdí vývoj evropské AI více než samotná regulace.
Že nejde jen o teoretickou debatu, ukazuje zkušenost českého startupu Synhawk. Ten ve spolupráci s Vodafonem vyvíjí technologii pro odhalování podvodných telefonních hovorů a podvržených videí. Evropská pravidla ovlivnila samotnou architekturu jeho systému. Přesto jeho zakladatelé tvrdí, že právě důraz na ochranu soukromí a bezpečnost představuje jednu z konkurenčních výhod evropských AI řešení.
„Ve Spojených státech bychom technologii mohli nasadit prakticky okamžitě. V Evropě jsme ji ale museli přizpůsobit regulatorním požadavkům,“ říká CEO společnosti Synhawk Lukáš Foral.
Rozdíl spočívá především v tom, s jakými daty může systém pracovat. „Pokud vezmete detekční systém v jeho základní podobě, v některých zemích mimo Evropu může pracovat s celým signálem, případně i s obsahem komunikace. Technologie může obsah dokonce transkribovat,“ vysvětluje Foral. To ale v Evropě není možné. Software s umělou inteligencí, který vyvinuli a který slouží pro odhalování podvržených videí a podvodných telefonátů, proto pracuje jen s určitými fragmenty signálu.
Právě omezením přístupu k obsahu komunikace Evropa chrání soukromí uživatelů. Podle Forala to sice vývojáře nutí hledat jiné cesty, přesto ale dokáží doručit funkční software. “Jde o modifikace vycházející ze specifik evropského trhu. Výkonnost ani úspěšnost systému tím ale podle našich měření dotčena nebyla,“ říká Foral.
Bezpečnost není problém
Podobný pohled zastává i zakladatel společnosti Maia Labs Lukáš Loun, jehož firma vyvíjí umělou inteligenci pro zdravotnictví. „Největším problémem pro výrobce není samotná existence přísných pravidel. Ve zdravotnictví jsou požadavky na bezpečnost, klinickou validaci nebo řízení rizik zcela oprávněné,” říká.
Problém podle něj nastává ve chvíli, kdy se pravidla během vývoje mění nebo když pro ně chybí jednotný výklad. „Evropský AI byznys potřebuje hlavně stabilní a technicky proveditelná pravidla,“ upozorňuje. Vývoj zdravotnického prostředku, jemuž se Maia Labs věnuje, trvá několik let. Změna pravidel si může podle Lukáše Louna vynutit přepracování návrhových vstupů, technické dokumentace, klinického plánu, validačních metod, smluv s partnery i rozpočtu. To vše pak vývoj zpomaluje.
Větší volnost přináší i větší rizika
Rozdílný přístup podle spoluzakladatele Synhawku Matyáše Boháčka, který se podílel na vývoji bezpečnostních systémů i pro Bílý dům, se netýká jen samotného nasazení technologie. Výrazné rozdíly mezi americkým a evropským přístupem panují při trénování generativních modelů.
„V Americe je právní rámec mnohem liberálnější. Díky principu fair use nebo využívání veřejně dostupných dat tam vývojáři mohou modely trénovat na výrazně širším množství dat. Zjednodušeně řečeno vývojář může vzít data téměř odkudkoliv,“ popisuje Boháček.
Mohlo by vás zajímat
Pro vývojáře je takový přístup pochopitelně jednodušší, přináší ale i významná rizika. „Pokud sbíráte data bez větších omezení, narazíte i na nekvalitní nebo velmi citlivý obsah,” říká Boháček a pokračuje: “Existují příklady generátorů obrázků natrénované na otevřených datech stažených z internetu. Mezi nimi se objevily i pornografické materiály nebo citlivé fotografie a videa dětí. Modely pak byly schopné vytvářet další podobný obsah.“
Právě takové případy podle Boháčka ukazují, jak snadno lze generativní umělou inteligenci zneužít. Výstupy takto natrénovaných modelů pak mohou snadno sloužit například kybernetické šikaně. „Proto evropské povinnosti týkající se bezpečnosti, etiky nebo práce s AI modely vnímám pozitivně. Je dobře, že za ně neseme odpovědnost,” dodává Boháček.
Kvalita dat rozhoduje
Právě zkušenosti z podobných případů ukazují, proč se musí věnovat mimořádná pozornost i kvalitě dat. „Největší výzvou už dnes není vytvořit model, který dosáhne dobrého výsledku na vývojovém datasetu. Rozhodující je prokázat, že funguje bezpečně a konzistentně v reálné praxi na různých pracovištích, u různých pacientských populací a při rozdílné kvalitě vstupních dat,” popisuje efekt evropských pravidel pro trénování umělé inteligence Lukáš Loun.
Výrobce podle něj musí mimo jiné doložit původ a kvalitu dat, jejich reprezentativnost, nezávislé testování, sledování odchylek od objektivity, kybernetickou bezpečnost i vhodné zapojení člověka do rozhodování.
Ve zdravotnictví navíc nestačí model jednou vytvořit. „Každá jeho nová verze musí projít kompletním vývojem, verifikací, klinickou validací i regulatorním posouzením,“ uvádí Loun.
Největší překážkou jsou překrývající se pravidla
Zejména ve zdravotnictví firmy často narážejí na překrývání jednotlivých evropských předpisů. „Výrobce zdravotnického prostředku už dnes podle nařízení o klasifikaci zdravotnických prostředků musí řídit vývoj, klinické hodnocení, validaci softwaru, kybernetickou bezpečnost nebo sledování výrobku po uvedení na trh. AI Act k tomu přidává další požadavky na správu dat, transparentnost, lidský dohled nebo robustnost,“ popisuje Loun.
Do AI Omnibusu, který na začátku prázdnin schválila evropská komise, se proto organizace hájící zájmy podnikatelů snažily prosadit odstranění duplicit. Uspěly ale pouze ve strojírenství. “Praktickým rizikem je, že bude stejnou věc prokazovat dvakrát, pouze v jiné struktuře a někdy i vůči jiným autoritám,“ říká k tomu Loun.
Podle viceprezidentky Svazu průmyslu a dopravy Mileny Jabůrkové to má na podnikání v EU přímý dopad. „V praxi to znamená vyšší administrativní náklady, větší právní nejistotu a složitější uvádění inovativních výrobků na trh. Přitom právě odstranění regulatorních překryvů bylo jedním z hlavních cílů AI Omnibusu,“ uvedla Jabůrková pro Ekonomický deník.
Loun by za ideální stav považoval, kdyby fungoval jeden integrovaný systém řízení kvality, jedna technická dokumentace a jedno koordinované posouzení shody.
AI se vyvíjí po týdnech, právo po letech
Podle Lukáše Forala ale evropské firmy nepotřebují zásadně méně regulace. Potřebují především rychlejší reakci na technologický vývoj. „Nemyslím si, že by pravidla měla být jednodušší. Spíš bychom potřebovali, aby se rychleji připravovaly metodiky a výklady. AI se dnes vyvíjí v řádu dnů a týdnů, zatímco právo je z podstaty pomalejší.“
Evropská unie by proto nyní měla co nejrychleji dokončit harmonizované normy, metodiky a posílit kapacity institucí, které budou nové technologie posuzovat. „Podpora umělé inteligence nemůže končit vytvořením algoritmu nebo prototypu. Nejnáročnější část často přichází až poté – klinická validace, certifikace, kybernetické zabezpečení, integrace do infrastruktury a první reálné nasazení. Právě tady dnes Evropa nejčastěji ztrácí schopnost převést kvalitní výzkum do konkurenceschopného produktu,“ míní Loun.
Na předvídatelnost pravidel upozorňuje také Milena Jabůrková. Podle ní firmy potřebují především vědět, v jakém regulatorním prostředí budou fungovat za několik let. „Budoucí změny by měly být dobře připravené, předvídatelné a vycházet ze zkušeností z reálného nasazení. Pro podnikání je často důležitější stabilita pravidel než jejich samotný počet,“ uzavírá Jabůrková.
Právě to jak legislativní požadavky dokáží držet krok s technologickým vývojem tak nakonec rozhodne, zda se Evropa stane místem skutečného vývoje AI technologií a aplikací. Avšak i vysoký standard ochrany spotřebitelů, jenž se Evropa přes všechny potíže a obsáhlost předpisů snaží prosadit, se stává podle vývojářů důležitým argumentem, který jejich aplikace prodává.
