Úvod
1Stále větší část života trávíme interakcí v rámci platforem, jejichž uživatelská základna je menší než u stávajících národních států. A přesto je jejich správa velmi vzdálená hodnotám demokratických zemí. Místo toho jsou řízeny softwarem a algoritmy, které regulují naše interakce. Jak říká Lessig, „kód je zákon“, což je forma regulace, kdy soukromé subjekty mohou vkládat své hodnoty do technologických artefaktů a účinně tak omezovat naše jednání. Dnes kód jako regulační mechanismus využívá i veřejný sektor. To přináší řadu výhod, většinou spojených s možností automatizovat právo a prosazovat pravidla a regulace a priori, tj. před skutečností. Regulace prostřednictvím kodexu však s sebou nese i významná omezení a nevýhody, které mohou vytvářet nové problémy související se spravedlností a řádným procesem. Technologie blockchain přichází s mnoha nově objevenými možnostmi přeměny práva v kód. Přenesením právních nebo smluvních ustanovení do „chytré smlouvy“ založené na blockchainu se zárukou provedení jsou tato pravidla automaticky vynucována základní blockchainovou sítí, a proto budou vždy provedena podle plánu bez ohledu na vůli stran. To samozřejmě generuje nové problémy související s tím, že žádná ze stran nemůže ovlivnit provádění tohoto kódu. Díky širokému rozšíření strojového učení je možné některá omezení regulace kódem obejít. ML umožňuje zavést pravidla založená na kódu, která jsou ze své podstaty dynamická a adaptivní a kopírují některé vlastnosti tradičních právních pravidel charakterizovaných flexibilitou a nejednoznačností přirozeného jazyka. Využití ML v kontextu regulace však není bez nevýhod: rozhodování založené na datech vykazuje implicitní předsudky, které diskriminují menšiny, a zákony založené na ML mohou poškodit tradiční zásady, jako je univerzálnost a nediskriminace.
I. Od Code is Law k Law is Code
2Stále větší část svého života trávíme interakcí v rámci platforem, jejichž uživatelská základna bagatelizuje uživatelskou základnu existujících národních států, např. Facebook má více než 2 miliardy uživatelů, Youtube 1 miliardu a Instagram 700 milionů uživatelů. A přesto je jejich správa velmi vzdálená hodnotám demokratických zemí. Místo toho je řídí software a algoritmy, které regulují naše interakce a online komunikaci prostřednictvím nejasných pravidel zakotvených ve zdrojovém kódu a vypracovaných hrstkou soukromých subjektů.
3Digitální prostředí otevírá dveře nové formě regulace – ze strany soukromých subjektů -, které se mohou pokusit prosadit své vlastní hodnoty tím, že je zakomponují do technologického artefaktu. Jak uvedl Lessig (1999), „kód je zákon“: kód je v konečném důsledku architekturou internetu a – jako takový – je schopen omezovat jednání jednotlivce prostřednictvím technologických prostředků.
4Jak je stále více našich interakcí řízeno softwarem, stále více se spoléháme na technologii jako na prostředek přímého vynucování pravidel. Na rozdíl od tradičních právních pravidel, která pouze stanoví, co lidé mají nebo nemají dělat, totiž technická pravidla určují, co lidé vůbec mohou nebo nemohou dělat. Tím odpadá potřeba, aby jakákoli třetí strana – donucovací orgán – dodatečně zasahovala a trestala ty, kteří zákon porušili. Software v konečném důsledku určuje, co lze nebo nelze dělat v konkrétním online prostředí, častěji než platný zákon a případně také mnohem účinněji.
5Emblematickým příkladem jsou systémy správy digitálních práv (DRM), které transponují ustanovení autorského zákona do technologických ochranných opatření (Rosenblatt, et al., 2002), a omezují tak užití autorských děl (např. omezením počtu možných kopií digitální písně, které lze vytvořit). Výhodou této formy regulace pomocí kodexu je, že namísto spoléhání se na následné vymáhání třetími stranami (tj. soudy a policií) jsou pravidla vymáhána ex ante, takže je pro lidi velmi obtížné je vůbec porušit. Kromě toho na rozdíl od tradičních právních pravidel, která jsou ze své podstaty pružná a nejednoznačná, jsou technická pravidla vysoce formalizovaná a neponechávají téměř žádný prostor pro nejednoznačnost, čímž odpadá potřeba soudní arbitráže.
6 V současné době se regulace kodexem postupně etabluje jako regulační mechanismus, který přijímá nejen soukromý, ale i veřejný sektor. Vlády a orgány veřejné správy se stále více spoléhají na softwarové algoritmy a technologické nástroje s cílem definovat pravidla založená na kódu, která jsou automaticky vykonávána (nebo vynucována) základní technologií. To je například případ No Fly Listu v USA, který se spoléhá na dolování dat při prediktivním vyhodnocování potenciálních hrozeb pro národní bezpečnost (Citron 2007), nebo využití počítačových algoritmů pro podporu soudního rozhodování a určování trestů odnětí svobody nebo podmíněných propuštění (O’Neil 2016).
7Spoléhání se na technologické nástroje a pravidla založená na kódu jako prostředek regulace společnosti přináší řadu výhod, většinou souvisejících se schopností automatizovat právo a prosazovat pravidla a předpisy a priori, tj. před skutečností. Regulace pomocí kódů však s sebou nese i významné nevýhody, které mohou v konečném důsledku narušit některé základní principy práva.
8Na jedné straně, na rozdíl od tradičních právních pravidel, která musí zhodnotit soudce a aplikovat je případ od případu, jsou pravidla založená na kódech psána v rigidním a formalizovaném jazyce kódu, který nevyužívá flexibility a mnohoznačnosti přirozeného jazyka. Na druhou stranu architektonické provedení online platforem v konečném důsledku závisí na konkrétních rozhodnutích provozovatelů platforem a softwarových inženýrů, kteří se snaží podpořit nebo zabránit určitému typu jednání. Stejně jako jakýkoli jiný technologický artefakt není kód neutrální, ale ze své podstaty politický: má důležité společenské důsledky, neboť může podporovat určité politické struktury nebo usnadňovat určité akce a chování oproti jiným (Winner 1980).
II. Nové výzvy pro právo je kodex: Blokový řetězec & Strojové učení
9Technologie blokového řetězce – technologie, na níž je založen Bitcoin – je nově vznikající technologie, která přichází s mnoha nově objevenými možnostmi přeměny práva na kód (De Filippi & Hassan, 2016). S příchodem „chytrých smluv“ (tj. softwaru nasazeného v síti založené na blockchainu, jako je Bitcoin, a prováděného distribuovaným způsobem distribuovanou sítí rovnocenných subjektů) by technologie blockchainu mohla způsobit revoluci ve způsobu, jakým se lidé koordinují a zapojují do mnoha ekonomických transakcí a sociálních interakcí (Tapscott & Tapscott 2016). Transpozice právních nebo smluvních ustanovení do inteligentní smlouvy totiž může dát vzniknout novému souboru pravidel založených na kódu se „zárukou provedení“. Tato pravidla jsou automaticky vynucována základní blockchainovou sítí, a proto budou vždy provedena podle plánu, bez ohledu na vůli stran.
10Chytrá smlouva může být implementována tak, aby umožnila vzájemnou interakci více stran, lidí nebo strojů. Tyto interakce zprostředkovává aplikace blockchain, řízená výhradně souborem neměnných a nepodplatitelných pravidel vložených do jejího zdrojového kódu. Inteligentní smlouvy jako takové zvyšují použitelnost regulace pomocí kódu tím, že lidem umožňují formalizovat smluvní dohody a ekonomické transakce do souboru předem stanovených pravidel založených na kódu, která se sama vykonávají a vynucují. A vzhledem k tomu, že sítě založené na blockchainu a související chytré smlouvy nejsou závislé na žádném centrálním serveru, nemůže je žádná strana svévolně vypnout – pokud to není výslovně stanoveno v jejich kódu. To dále prohloubilo problém související s rigiditou a formálností regulace založené na kódu v tom smyslu, že pro jakoukoli jednotlivou stranu je obtížnější aktualizovat kód nebo dokonce jen ovlivnit provádění tohoto kódu.
11Machine Learning (ML) umožňuje softwaru získávat znalosti z externích zdrojů a učit se nebo dělat věci, ke kterým nebyl explicitně naprogramován. Dostupnost rostoucího množství dat („big data“) spolu s nedávným pokrokem v neuronových sítích a technikách dolování dat vedla k širokému rozšíření strojového učení v několika online platformách. Díky ML je ve skutečnosti možné obejít některá omezení tradičně spojovaná s regulací pomocí kódu. Zatímco tyto platformy se stále z velké části řídí souborem rigidních a formalizovaných pravidel založených na kódu, ML umožňuje zavést pravidla založená na kódu, která jsou ze své podstaty dynamická a adaptivní – kopírují tak některé vlastnosti tradičních právních pravidel, která se vyznačují flexibilitou a nejednoznačností přirozeného jazyka. v rozsahu, v jakém se mohou učit z údajů, které shromažďují nebo přijímají, se totiž tyto systémy mohou neustále vyvíjet a zdokonalovat svá pravidla, aby lépe odpovídala konkrétním okolnostem, na které se mají vztahovat.
12Použití ML v kontextu regulace však není bez nevýhod. Již bylo prokázáno, že rozhodování založené na datech je implicitně zaujaté, a tudíž nespravedlivé (Hardt, 2014). Údajně „neutrální algoritmy“ ve svých zobecněních systematicky diskriminují menšinové skupiny a vykazují výsledky, které lze katalogizovat například jako rasistické nebo sexistické (Guarino, 2016).
13Díky dynamičnosti těchto pravidel by navíc v případě jejich implementace do zákona mohlo dojít k podkopání pojmů univerzálnosti (tj. „všichni jsou si před zákonem rovni“) a nediskriminace. Vzhledem k tomu, že zákony jsou začleněny do kodexu, jehož pravidla se dynamicky vyvíjejí podle toho, jak do systému přicházejí nové informace, mohlo by být pro lidi obtížné nejen pochopit, ale také zpochybnit legitimitu pravidel, která každodenně ovlivňují jejich životy. A protože stále více těchto pravidel lze přizpůsobit a přizpůsobit profilu každého jednotlivého uživatele, mohly by se navždy ztratit základní zásady univerzálnosti a nediskriminace, které charakterizují současný právní systém.
.