Wprowadzenie
1 Spędzamy coraz większą część naszego życia, wchodząc w interakcje z platformami, których baza użytkowników jest mniejsza niż baza istniejących państw narodowych. A jednak, ich zarządzanie jest bardzo dalekie od wartości demokratycznych państw. Zamiast tego, są one rządzone przez oprogramowanie i algorytmy, które regulują nasze interakcje. Jak ujął to Lessig, „kod jest prawem”, formą regulacji, w której prywatni aktorzy mogą osadzać swoje wartości w technologicznych artefaktach, skutecznie ograniczając nasze działania. Obecnie kod jest również wykorzystywany przez sektor publiczny jako mechanizm regulacyjny. Przynosi to wiele korzyści, głównie związanych z możliwością automatyzacji prawa i egzekwowania zasad i regulacji a priori, czyli przed faktem. Regulacja kodeksowa ma jednak również istotne ograniczenia i wady, które mogą powodować nowe problemy związane z uczciwością i należytym procesem. Technologia blockchain niesie ze sobą wiele nowych możliwości przekształcania prawa w kod. Poprzez transpozycję przepisów prawnych lub umownych do opartego na blockchainie „inteligentnego kontraktu” z gwarancją wykonania, zasady te są automatycznie egzekwowane przez leżącą u ich podstaw sieć blockchain i dlatego zawsze będą wykonywane zgodnie z planem, niezależnie od woli stron. To oczywiście generuje nowe problemy związane z faktem, że żadna pojedyncza strona nie może wpłynąć na wykonanie tego kodu. Wraz z upowszechnieniem się uczenia maszynowego możliwe jest obejście niektórych ograniczeń regulacji za pomocą kodu. Uczenie maszynowe pozwala na wprowadzenie zasad opartych na kodzie, które są z natury dynamiczne i adaptacyjne, powielając niektóre cechy tradycyjnych zasad prawnych charakteryzujących się elastycznością i wieloznacznością języka naturalnego. Jednak wykorzystanie ML w kontekście regulacji nie jest pozbawione wad: podejmowanie decyzji w oparciu o dane wykazało ukryte uprzedzenia, które dyskryminują mniejszości, a prawa oparte na ML mogą naruszać tradycyjne zasady, takie jak uniwersalność i niedyskryminacja.
I. Od kodeksu jest prawem do prawa jest kodeksem
2 Spędzamy coraz większą część naszego życia na interakcji w ramach platform, których baza użytkowników jest mniejsza niż baza istniejących państw narodowych, np. Facebook cieszy się ponad 2 miliardami użytkowników, Youtube 1 miliardem, a Instagram 700 milionami użytkowników. Facebook ma 2 miliardy użytkowników, Youtube 1 miliard, a Instagram 700 milionów. Zamiast tego, są one rządzone przez oprogramowanie i algorytmy, które regulują nasze interakcje i komunikację online poprzez niejasne zasady osadzone w kodzie źródłowym i opracowane przez garstkę prywatnych podmiotów.
3Środowisko cyfrowe otwiera drzwi dla nowej formy regulacji – przez podmioty prywatne – które mogą próbować narzucić swoje własne wartości poprzez osadzenie ich w technologicznym artefakcie. Jak stwierdził Lessig (1999), „Kod jest prawem”: kod jest ostatecznie architekturą Internetu i – jako taki – jest w stanie ograniczyć działania jednostki za pomocą środków technologicznych.
4 Ponieważ coraz więcej naszych interakcji jest regulowanych przez oprogramowanie, coraz bardziej polegamy na technologii jako środku do bezpośredniego egzekwowania zasad. W przeciwieństwie do tradycyjnych zasad prawnych, które jedynie określają, co ludzie powinni lub nie powinni robić, zasady techniczne określają, co ludzie mogą lub nie mogą robić w pierwszej kolejności. Eliminuje to potrzebę interwencji osób trzecich w celu ukarania tych, którzy naruszyli prawo. Oprogramowanie ostatecznie określa, co można lub czego nie można robić w określonym środowisku online, częściej niż obowiązujące prawo, a możliwe, że również znacznie skuteczniej.
5 Emblematycznym tego przykładem są systemy zarządzania prawami cyfrowymi (DRM), transponujące przepisy prawa autorskiego do technologicznych środków ochrony (Rosenblatt, et al., 2002), a tym samym ograniczające wykorzystanie dzieł chronionych prawem autorskim (np. poprzez ograniczenie liczby możliwych kopii cyfrowej piosenki, które można wykonać). Zaletą tej formy regulacji przez kodeks jest to, że zamiast polegać na egzekwowaniu ex-post przez osoby trzecie (tj. sądy i policję), zasady są egzekwowane ex-ante, co sprawia, że bardzo trudno jest ludziom w pierwszej kolejności je naruszać. Ponadto, w przeciwieństwie do tradycyjnych zasad prawnych, które są z natury elastyczne i niejednoznaczne, zasady techniczne są wysoce sformalizowane i pozostawiają niewiele miejsca na niejednoznaczność, eliminując tym samym potrzebę arbitrażu sądowego.
6Dzisiaj regulacja za pomocą kodeksu stopniowo staje się mechanizmem regulacyjnym przyjętym nie tylko przez sektor prywatny, ale również przez sektor publiczny. Rządy i administracja publiczna w coraz większym stopniu polegają na algorytmach oprogramowania i narzędziach technologicznych w celu zdefiniowania zasad opartych na kodzie, które są automatycznie wykonywane (lub egzekwowane) przez technologię leżącą u ich podstaw. Tak jest na przykład w przypadku No Fly List w Stanach Zjednoczonych, która opiera się na eksploracji danych w celu dokonania predykcyjnych ocen na temat potencjalnych zagrożeń dla bezpieczeństwa narodowego (Citron 2007), czy też wykorzystania algorytmów komputerowych do wspierania podejmowania decyzji sądowych i określania wyroków więzienia lub zwolnień warunkowych (O’Neil 2016).
7 Poleganie na narzędziach technologicznych i regułach opartych na kodzie jako sposobie regulacji społeczeństwa przynosi różnorodne korzyści, głównie związane z możliwością automatyzacji prawa i egzekwowania zasad i regulacji a priori, czyli przed faktem. Jednak regulacja kodeksowa ma również istotne wady, które mogą ostatecznie zakłócić niektóre z podstawowych założeń prawa.
8 Z jednej strony, w przeciwieństwie do tradycyjnych reguł prawnych, które muszą być docenione przez sędziego i stosowane na zasadzie indywidualnego przypadku, reguły oparte na kodzie są napisane w sztywnym i sformalizowanym języku kodu, który nie korzysta z elastyczności i wieloznaczności języka naturalnego. Z drugiej strony, architektoniczna implementacja platform internetowych ostatecznie zależy od konkretnych wyborów operatorów platform i inżynierów oprogramowania, dążących do promowania lub zapobiegania określonym typom działań. Tak jak każdy inny artefakt technologiczny, kod nie jest neutralny, ale z natury polityczny: ma ważne implikacje społeczne, o ile może wspierać pewne struktury polityczne lub ułatwiać pewne działania i zachowania w stosunku do innych (Winner 1980).
II. Nowe wyzwania dla Law is Code: Blockchain & Machine Learning
9Technologia blockchain – technologia leżąca u podstaw Bitcoina – jest technologią wschodzącą, która wiąże się z wieloma nowymi możliwościami przekształcania prawa w kod (De Filippi & Hassan, 2016). Wraz z pojawieniem się „inteligentnych kontraktów” (tj. oprogramowania wdrożonego w sieci opartej na blockchain, takiej jak Bitcoin, i wykonywanego w sposób rozproszony przez rozproszoną sieć równorzędnych podmiotów), technologia blockchain może zrewolucjonizować sposób, w jaki ludzie koordynują się i angażują w wiele transakcji gospodarczych i interakcji społecznych (Tapscott & Tapscott 2016). Rzeczywiście, transpozycja przepisów prawnych lub umownych do inteligentnego kontraktu może dać początek nowemu zestawowi reguł opartych na kodzie z „gwarancją wykonania”. Reguły te są automatycznie egzekwowane przez bazową sieć blockchain i dlatego zawsze będą wykonywane zgodnie z planem, niezależnie od woli stron.
10A smart contract może być zaimplementowany w taki sposób, aby umożliwić interakcję wielu stron, ludzi lub maszyn, ze sobą. W interakcjach tych pośredniczy aplikacja blockchain, kontrolowana wyłącznie przez zestaw niezmiennych i nieprzekupnych reguł osadzonych w jej kodzie źródłowym. Jako takie, inteligentne kontrakty zwiększają możliwość zastosowania regulacji przez kod, umożliwiając ludziom sformalizowanie porozumień umownych i transakcji gospodarczych w zestaw z góry określonych reguł opartych na kodzie, które są samowykonalne i samowykonalne. A ponieważ sieci oparte na blockchainie i powiązane z nimi inteligentne kontrakty nie opierają się na żadnym centralnym serwerze, nie mogą być arbitralnie wyłączone przez żadną pojedynczą stronę – chyba że jest to wyraźnie przewidziane w ich kodzie. To jeszcze bardziej pogłębiło problem związany ze sztywnością i formalnością regulacji opartej na kodzie, w tym sensie, że trudniej jest pojedynczej stronie uaktualnić kod lub nawet wpłynąć na wykonanie tego kodu.
11Uczenie maszynowe (ML) umożliwia oprogramowaniu pozyskiwanie wiedzy z zewnętrznych źródeł oraz uczenie się lub robienie rzeczy, do których nie zostało ono wyraźnie zaprogramowane. Dostępność rosnącej ilości danych („big data”), wraz z ostatnimi postępami w sieciach neuronowych i technikach eksploracji danych, doprowadziła do powszechnego przyjęcia uczenia maszynowego w kilku platformach internetowych. Dzięki ML możliwe staje się w rzeczywistości obejście niektórych ograniczeń tradycyjnie związanych z regulacją za pomocą kodu. Podczas gdy platformy te są nadal w większości zarządzane przez zestaw sztywnych i sformalizowanych zasad opartych na kodeksie, ML pozwala na wprowadzenie zasad opartych na kodeksie, które są z natury dynamiczne i adaptacyjne – tym samym powielając niektóre z cech tradycyjnych zasad prawnych charakteryzujących się elastycznością i wieloznacznością języka naturalnego. W rzeczy samej, w zakresie, w jakim systemy te mogą uczyć się na podstawie danych, które gromadzą lub otrzymują, mogą one ewoluować, stale udoskonalając swoje zasady, aby lepiej dopasować je do konkretnych okoliczności, do których mają mieć zastosowanie.
12 Zastosowanie ML w kontekście regulacji nie jest jednak pozbawione wad. Udowodniono już, że podejmowanie decyzji w oparciu o dane jest implicite stronnicze, a w konsekwencji niesprawiedliwe (Hardt, 2014). Rzekomo „neutralne algorytmy” w swoich uogólnieniach systematycznie dyskryminują grupy mniejszościowe, pokazując wyniki, które mogą być skatalogowane np. jako rasistowskie czy seksistowskie (Guarino 2016).
13Co więcej, w przypadku implementacji do prawa, dynamiczność tych zasad mogłaby podciąć pojęcia uniwersalności (tj. „wszyscy są równi wobec prawa”) i niedyskryminacji. W miarę jak przepisy są włączane do systemu opartego na kodach, którego zasady dynamicznie ewoluują w miarę napływu nowych informacji, ludziom może być trudno nie tylko zrozumieć, ale także zakwestionować zasadność przepisów, które na co dzień wpływają na ich życie. A ponieważ coraz więcej z tych zasad można dostosować do profilu każdego użytkownika, podstawowe zasady uniwersalności i niedyskryminacji, które charakteryzują obecny system prawny, mogą zostać na zawsze utracone.
.