Advokát podal žalobu s vymyšlenými judikáty, policie použila neexistující právní kvalifikaci. Umělá inteligence už do trestní justice proniká, zatím ale bez jasných pravidel. Na její rizika i možné využití upozornila mezinárodní konference na Právnické fakultě Univerzity Karlovy.
Akademici připouštějí, že umělá inteligence se jako nástroj v rukou osob zapojených do procesu trestního řízení objevuje už nyní. Známé jsou případy advokátů, kteří sepis podání svěřili jazykovým modelům a dostali výstup s odkazy na vymyšlené judikáty. Takzvaně halucinující AI pak odhalil soud a obhájce, který si dostatečně podání nezkontroloval, potrestal pokutou a nepřiznáním náhrady nákladů řízení.
Podobné přešlapy zná praxe i z druhé strany. Policisté z NCOZ v případě bitcoinové kauzy Tomáše Jiřikovského použili právní kvalifikaci, která v době, kdy k činu mělo dojít, v trestním zákoníku neexistovala. Kvalifikovaná skutková podstata trestného činu legalizace výnosů z trestné činnosti podle pátého odstavce se totiž do zákona dostala až v roce 2019. Jiřikovský se přitom činu měl dopustit o čtyři roky dříve. Po upozornění obhájců byla chyba napravena a obviněnému tak rázem namísto deseti let hrozí vězení „jen“ o dva roky kratší.
Černá skříňka naučená na neznámých datech
Oba případy mají společné, že AI v nich využila nerelevantních dat. Podle profesora Vladimíra Smejkala je zásadním problémem těchto jazykových modelů, že uživatel nemá jejich vstupy pod kontrolou. Nemůže proto zjistit ani ověřit, na jakých zdrojích se jazykový model své schopnosti naučil. Používání AI v trestní justici přesto do budoucna za určitých podmínek nevylučuje. „Kvalitně navržený a zodpovědně používaný systém může přispět k efektivitě a konzistentnosti rozhodování,“ říká.
A nebrání se mu ani praktikující soudci. Předseda trestního kolegia Nejvyššího soudu František Púry nástrojům AI podle svých slov fandí. „Dovedu si představit, že budou k ruce soudcům, aby pomáhaly vyhodnocovat splnění kritérií pro vyměřování určité výše nebo druhu trestu,“ připustil. Hlavní břemeno rozhodování prý ale musí zůstat v rukou soudců.
Použití AI bude třeba přiznat
Technologickým novinkám se podle Smejkala napřed musí přizpůsobit legislativa. Znamenalo by to do trestního řádu zavést povinnost orgánů činných v trestním řízení výslovně přiznat, že k využitím systému AI sáhly, a to zejména tehdy, rozhoduje-li se o trestu.
Ke stejnému systému AI pak musí mít přístup i obhajoba. Důležitá pro ni bude znalost o tom, které konkrétní vstupní proměnné byly v daném případě použity a jaký měly význam pro výsledek rozhodování. Půjde o to přezkoumatelně ověřit spolehlivost takového systému. Algoritmické doporučení také nemá mít normativní povahu. Nemůže proto sloužit jako samostatné kritérium pro výši nebo druh trestu.
Smejkal rovněž navrhuje, že v případě zapojení AI do trestního řízení by mělo být automaticky povinné přezkoumání obžaloby v rámci předběžného projednání.
