Přesvědčivý obrázek, video nebo text už nebude stačit. Od dnešního dne musí tvůrci i provozovatelé některých systémů umělé inteligence v celé Evropské unii otevřeně přiznat, kdy do obsahu nebo komunikace zasáhla AI. Chatboti dostávají povinnost představit se, deepfakes ponesou jasné označení a za porušení pravidel mohou firmy zaplatit milionové pokuty.
Dnešním dnem vstupují do praxe další klíčová ustanovení unijního Aktu o umělé inteligenci (AI Act). Evropská unie zavádí pravidla transparentnosti pro vybrané systémy umělé inteligence. Lidé mají vždy poznat, kdy komunikují s AI a kdy sledují nebo čtou obsah, který vytvořila či upravila umělá inteligence.
Současně dostávají národní dozorové orgány i Evropská komise pravomoc postihovat porušení pravidel, která už nabyla účinnosti.
Chatboti musí přiznat, že nejsou lidé
Nová pravidla ukládají provozovatelům chatbotů, virtuálních asistentů i hlasových asistentů jasnou povinnost. Každý uživatel musí včas zjistit, že komunikuje s umělou inteligencí, nikoliv s člověkem.
Český advokát Jaroslav Kuba z poradenské společnosti Rödl uvedl:
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí.“
Stejná povinnost dopadá také na AI agenty, kteří sami rezervují služby, objednávají zboží nebo vyřizují korespondenci.
Mohlo by vás zajímat
„Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci. Podle nových pokynů Evropské komise musí prozradit nejen to, že jsou umělou inteligencí, ale i za koho jednají,“ doplnil Kuba.
Deepfakes dostávají povinné označení
Evropská unie nově vyžaduje také jasné označení deepfakes. Povinnost platí pro obrázky, zvukové nahrávky i videa, které vytvořila nebo upravila umělá inteligence a která mohou působit jako skutečné. Tvůrci musí takový obsah viditelně označit.
Stejnou povinnost připomíná Český telekomunikační úřad také u textů určených k informování veřejnosti o záležitostech veřejného zájmu, pokud je vytvořila nebo upravila umělá inteligence.
ČTÚ upozorňuje na správné označení, za porušení hrozí vysoké pokuty
Český telekomunikační úřad připomíná, že AI Act vyžaduje jasné a dobře rozlišitelné označení.
„ČTÚ v tomto směru upozorňuje, že podle čl. 50 odst. 5 AI Actu je třeba využívat jasné a rozlišitelné způsoby označení. V praxi lze využít například označení nebo ikony typu AI generated pro plně generovaný obsah nebo AI modified pro obsah upravený pomocí AI,“ uvedl úřad.
Právě Český telekomunikační úřad bude v České republice kontrolovat dodržování těchto pravidel.
Evropská komise i národní dozorové orgány nyní mohou ukládat sankce nejen za nepřípustné praktiky, ale také za porušení pravidel transparentnosti.
Firmám hrozí pokuta až 15 milionů eur nebo tři procenta jejich celosvětového ročního obratu.
Evropská komise očekává, že nová pravidla omezí klamání a manipulaci a lidem usnadní informovaná rozhodnutí. Firmy zároveň dostávají jasně vymezené povinnosti i způsob, jak doložit soulad s evropskou legislativou.
Nová pravidla zasahují také reklamu a virtuální influencery
Podle advokáta Jaroslava Kuby Evropská komise mezi deepfakes výslovně řadí také některé reklamní materiály vytvořené pomocí umělé inteligence.
Patří mezi ně reklamní vizuály, produktové fotografie vytvořené umělou inteligencí i virtuální influenceři, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku.
Jasné označení má zabránit tomu, aby lidé považovali obsah vytvořený umělou inteligencí za skutečnost.
