Evropský inspektor ochrany dat: Etika musí jít nad právo, jinak nás čekají státy řízené algoritmy

Digitální otisk prstu. Foto: archiv

Etika jako základ práva musí jít nyní ve IV. průmyslové revoluci nad právo, neboť i otroctví bylo kdysi legální. Zabijácké drony, algoritmické rozsudky v trestních věcech nebo sociální média jako nástroj konfliktů či práva robotů jsou příklady přebírání rozhodování člověka stroji. Mějme strach ze společnosti tvořené algoritmy, které každého bodují a klasifikují.

Takové varování vyslal evropský inspektor pro ochranu dat Giovanni Buttarelli na konferenci komisařů ochrany dat a soukromí minulý týden v Bruselu. O jeho vystoupení informoval český Úřad pro ochranu osobních údajů, podle kterého „etika představuje pro Úřad jednu z nejnaléhavějších strategických výzev“.

Soud bez procesu, místo soudce software, jehož podstata je neznámá

Právě schopnost shromažďovat a využívat velká množství informací a vytváření zisku na základě rostoucí výkonnosti výpočetní techniky a informačních systémů má podle Buttarelliho dopad na svobodu a soukromí jednotlivce. „Proto se objevily zákony zakládající práva lidí coby nositelů osobních údajů a současně ukládající požadavky pro ty, kteří z užívání jejich dat profitují. Současně zakotvily mechanismy pro kontrolu a prosazování těchto zákonných povinností,“ uvedl Buttarelli a vyzval k dalšímu kvalitativnímu kroku od klasického respektu vůči soukromí směrem k udržitelné etice v digitalizované společnosti. „Digitalizace proniká téměř do všech oblastí hospodářství, do našich společenských vztahů, do politiky a vládnutí. Je poháněna především vizí očekávající, že stroje převezmou (dosud) lidské rozhodování a odpovědnost za něj,“ upozornil evropský inspektor.

Rychle se podle inspektora blížíme době, kdy všechno bude svěřeno strojům:
– Zabijácké drony – automaticky, bez lidského zásahu fungující stroje se schopností zabíjet lidské bytosti. Na nedávném zasedání Spojených národů nedokázali delegáti dosáhnout dohody ani ohledně zahájení diskuse o kontrole těchto strojů.
– Algoritmické rozhodování o rozsudcích v trestních věcech. O jednotlivcích jsou vynášena rozhodnutí založená na nejasných kritériích, aniž by proběhl řádný proces. Tvůrci těchto automatizovaných postupů se přitom zdráhají odhalit faktory rozhodování svého software s poukazem na vlastnická práva.
– Role sociálních médií, jejichž rozhodování, založené na neprůhledných algoritmech, bylo zneužito jako zbraň v oblastech etnických konfliktů s hrozivým dopadem na jednotlivce.
– Technologie blockchain vyvolávající otázku, zda je oprávněná její současná adorace. Zachová-li si její růst dosavadní dynamiku, povede k celosvětové produkci uhlíkových emisí na výši jako ve Spojených státech.
– Otázka práv robotů, kde začátkem roku Evropský parlament vydal rezoluci, jež promyšleně předjímá vývoj robotiky a případnou potřebu vytvořit pro roboty rámec práv.

Z čínského občanského skóre mají strach i v Davosu

Jako důkaz svých slov uvedl evropský inspektor pro ochranu dat obavy z problémů, jak zazněly na letošním výročním zasedání Světového ekonomického fóra v Davosu. Jakého vývoje se světoví politici, podnikatelé a představitelé korporací obávají? Co bude nutné podle nich v souvislosti se IV. průmyslovou revolucí vyřešit?

Jsou to: Solidarita, férová digitální dividenda, polarizace a negativní dopad na sociální stabilitu, koncentrace moci, strukturální neschopnost lidí mít prospěch ze svých vlastních dat, nerovný přístup k novým technologiím, algoritmy vytvářející společnosti ve kterých je každý automaticky bodován a klasifikován.

Systém hodnocení obyvatel přidělováním kreditů chce zavést od roku 2020 Čína. Bodovací systém by měl hodnotit „důvěryhodnost občanů“ podle toho, co nakupují, s kým se stýkají, jaké účty platí. Vzniklé „skóre občana“ pak má sloužit k rozhodování o způsobilosti k zaměstnání, hypotéce či vzdělání.

Přemýšlejme o robotizovaných lidech dneška

Etika tak podle inspektora musí právní normy předcházet, prolínat se jejich tvorbou a nastupovat i po jejich schválení. Má vyplňovat prázdná místa tam, kde zákony jsou netečné, cituje český Úřad pro ochranu osobních údajů z vystoupení inspektora: „Etika musí být vyzyvatelem práva. Vždyť i otroctví bylo kdysi legální. Dětská práce a cenzura dokonce v mnoha zemích stále ještě existuje.“.

Tyto nespravedlnosti je podle něj třeba řešit právě na půdorysu etiky. Etika je pro evropské úřady pro ochranu osobních údajů jednou z nejnaléhavějších strategických výzev. „Musíme umět porozumět technologii a dokázat vyjádřit sourodý etický rámec. Jak jinak bychom dokázali naplňovat naše poslání – ochraňovat lidská práva v digitálním věku?,“ řekl mimo jiné inspektor, který apeloval, abychom začali přemýšlet o „robotizovaných lidech dneška“, o právech pracovníků ve skladech, kde každý jejich pohyb je sledován a zaznamenán, o lidech, kteří jsou strojem naváděni od regálu k regálu podle logiky dávající smysl právě jen onomu stroji.

Celé vystoupení evropského komisaře pro ochranu dat a soukromí je zde.

Irena Válová