Introducere

1Ne petrecem din ce în ce mai mult timp din viață interacționând în cadrul unor platforme, a căror bază de utilizatori o diminuează pe cea a statelor naționale existente. Și totuși, guvernanța acestora este foarte departe de valorile țărilor democratice. În schimb, ele sunt guvernate de software și algoritmi care ne reglementează interacțiunile. După cum a spus Lessig, „Codul este lege”, o formă de reglementare în care actorii privați își pot încorpora valorile în artefactele tehnologice, constrângând efectiv acțiunile noastre. În prezent, codul este utilizat și de sectorul public ca mecanism de reglementare. Acest lucru aduce o varietate de beneficii, în principal legate de capacitatea de a automatiza legea și de a aplica normele și reglementările a priori, adică înainte de a fi aplicate. Cu toate acestea, reglementarea prin coduri vine, de asemenea, cu limitări și dezavantaje importante, care ar putea crea noi probleme legate de echitate și proces echitabil. Tehnologia Blockchain vine cu multe oportunități inedite de transformare a legii în cod. Prin transpunerea dispozițiilor legale sau contractuale într-un „contract inteligent” bazat pe blockchain cu o garanție de execuție, aceste norme sunt puse în aplicare în mod automat de rețeaua blockchain subiacentă și, prin urmare, se vor executa întotdeauna conform planului, indiferent de voința părților. Acest lucru generează, bineînțeles, noi probleme legate de faptul că nicio parte nu poate afecta executarea codului respectiv. Odată cu adoptarea pe scară largă a învățării automate, este posibil să se ocolească unele dintre limitările reglementării prin cod. ML permite introducerea unor norme bazate pe coduri care sunt în mod inerent dinamice și adaptative, reproducând unele dintre caracteristicile normelor juridice tradiționale caracterizate de flexibilitatea și ambiguitatea limbajului natural. Cu toate acestea, utilizarea ML în contextul reglementării nu este lipsită de dezavantaje: procesul decizional bazat pe date a evidențiat prejudecăți implicite care discriminează minoritățile, iar legile bazate pe ML pot aduce atingere principiilor tradiționale, cum ar fi universalitatea și nediscriminarea.

I. De la „Codul este lege” la „Legea este cod”

2Ne petrecem din ce în ce mai mult timp din viață interacționând în cadrul unor platforme, a căror bază de utilizatori o diminuează pe cea a statelor naționale existente, de exemplu, Facebook se bucură de peste 2 miliarde de utilizatori, Youtube de 1 miliard, iar Instagram de 700 de milioane de utilizatori. Și totuși, guvernanța acestora este foarte departe de valorile țărilor democratice. În schimb, ele sunt guvernate de software și algoritmi care ne reglementează interacțiunile și comunicațiile online prin intermediul unor reguli obscure încorporate în codul sursă și elaborate de o mână de actori privați.

3Mediul digital deschide ușile unei noi forme de reglementare – de către actori privați – care ar putea încerca să își impună propriile valori prin încorporarea lor într-un artefact tehnologic. După cum a afirmat Lessig (1999), „Code is Law”: codul este, în ultimă instanță, arhitectura internetului și – ca atare – este capabil să constrângă acțiunile unui individ prin mijloace tehnologice.

4 Pe măsură ce tot mai multe dintre interacțiunile noastre sunt guvernate de software, ne bazăm din ce în ce mai mult pe tehnologie ca mijloc de aplicare directă a regulilor. Într-adevăr, spre deosebire de normele juridice tradiționale, care doar stipulează ce trebuie sau nu trebuie să facă oamenii, normele tehnice determină ce pot sau nu pot face oamenii în primul rând. Astfel, nu mai este nevoie ca o autoritate terță de aplicare a legii să intervină după aceea, pentru a-i pedepsi pe cei care au încălcat legea. În cele din urmă, software-ul sfârșește prin a stipula ce se poate sau nu se poate face într-un anumit cadru online, mai frecvent decât legea aplicabilă și, posibil, de asemenea, mult mai eficient.

5Un exemplu emblematic în acest sens sunt schemele de gestionare a drepturilor digitale (DRM), care transpun prevederile legislației privind drepturile de autor în măsuri tehnologice de protecție (Rosenblatt, et al., 2002) și, astfel, restricționează utilizarea operelor protejate prin drepturi de autor (de exemplu, prin limitarea numărului de copii posibile ale unei melodii digitale care pot fi realizate). Avantajul acestei forme de reglementare prin cod este că, în loc să se bazeze pe aplicarea ex-post de către terți (de exemplu, instanțele de judecată și poliția), regulile sunt aplicate ex-ante, ceea ce face foarte dificilă încălcarea lor de către oameni, în primul rând. În plus, spre deosebire de normele juridice tradiționale, care sunt în mod inerent flexibile și ambigue, normele tehnice sunt extrem de formalizate și lasă puțin sau deloc loc pentru ambiguitate, eliminând astfel nevoia de arbitraj judiciar.

6În prezent, reglementarea prin cod se impune progresiv ca un mecanism de reglementare adoptat nu numai de sectorul privat, ci și de sectorul public. Guvernele și administrațiile publice se bazează din ce în ce mai mult pe algoritmi software și instrumente tehnologice pentru a defini reguli bazate pe coduri, care sunt executate (sau aplicate) în mod automat de tehnologia subiacentă. Acesta este cazul, de exemplu, al No Fly List din SUA, care se bazează pe extragerea de date pentru a face evaluări predictive cu privire la potențialele amenințări la adresa securității naționale (Citron 2007), sau utilizarea algoritmilor informatici pentru a sprijini procesul de luare a deciziilor judiciare și pentru a determina pedepsele cu închisoarea sau eliberarea condiționată (O’Neil 2016).

7Încrederea în instrumentele tehnologice și în regulile bazate pe coduri ca mijloc de reglementare a societății aduce o varietate de beneficii, în principal legate de capacitatea de a automatiza legea și de a aplica regulile și reglementările a priori, adică înainte de faptă. Cu toate acestea, reglementarea prin coduri vine, de asemenea, cu dezavantaje importante care ar putea, în cele din urmă, să perturbe unele dintre principiile de bază ale dreptului.

8 Pe de o parte, spre deosebire de normele juridice tradiționale, care trebuie să fie apreciate de un judecător și aplicate de la caz la caz, normele bazate pe coduri sunt scrise în limbajul rigid și formalizat al codului, care nu beneficiază de flexibilitatea și ambiguitatea limbajului natural. Pe de altă parte, implementarea arhitecturală a platformelor online depinde, în cele din urmă, de alegerile specifice ale operatorilor de platforme și ale inginerilor de software, care caută să promoveze sau să împiedice un anumit tip de acțiuni. La fel ca orice alt artefact tehnologic, codul nu este neutru, ci inerent politic: are implicații societale importante, în măsura în care ar putea susține anumite structuri politice sau facilita anumite acțiuni și comportamente în detrimentul altora (Winner 1980).

II. Noi provocări la Legea este Codul: Blockchain & Machine Learning

9Tehnologia Blockchain – tehnologia care stă la baza Bitcoin – este o tehnologie emergentă care vine cu multe oportunități inedite de transformare a legii în cod (De Filippi & Hassan, 2016). Odată cu apariția „contractelor inteligente” (adică software implementat pe o rețea bazată pe blockchain, precum Bitcoin, și executat în mod distribuit de o rețea distribuită de colegi), tehnologia blockchain ar putea revoluționa modul în care oamenii se coordonează și se angajează în multe tranzacții economice și interacțiuni sociale (Tapscott & Tapscott, 2016). Într-adevăr, transpunerea dispozițiilor legale sau contractuale într-un contract inteligent poate da naștere unui nou set de reguli bazate pe coduri cu o „garanție de executare”. Aceste reguli sunt puse în aplicare în mod automat de rețeaua blockchain subiacentă și, prin urmare, se vor executa întotdeauna conform planului, indiferent de voința părților.

10Un contract inteligent poate fi implementat în așa fel încât să facă posibilă interacțiunea între mai multe părți, oameni sau mașini, între ele. Aceste interacțiuni sunt mediate de o aplicație blockchain, controlată exclusiv de un set de reguli imuabile și incoruptibile încorporate în codul său sursă. Astfel, contractele inteligente sporesc aplicabilitatea reglementării prin cod, permițând oamenilor să formalizeze acordurile contractuale și tranzacțiile economice într-un set de reguli prestabilite bazate pe cod, care se execută și se consolidează singure. Și, în măsura în care rețelele bazate pe blockchain și contractele inteligente asociate nu se bazează pe niciun server central, acestea nu pot fi închise în mod arbitrar de o singură parte – cu excepția cazului în care acest lucru este prevăzut în mod specific în codul lor. Acest lucru a exacerbat și mai mult problema legată de rigiditatea și formalitatea reglementării bazate pe cod, în sensul că devine mai greu pentru orice parte unică să actualizeze codul sau chiar și doar să afecteze executarea acelui cod.

11Machine Learning (ML) permite software-ului să dobândească cunoștințe din surse externe și să învețe sau să facă lucruri pentru care nu a fost programat în mod explicit. Disponibilitatea unor cantități din ce în ce mai mari de date („big data”), împreună cu progresele recente în domeniul rețelelor neuronale și al tehnicilor de extragere a datelor, a dus la adoptarea pe scară largă a învățării automate în mai multe platforme online. Cu ML, devine, de fapt, posibilă ocolirea unora dintre limitările asociate în mod tradițional cu reglementarea prin cod. În timp ce aceste platforme sunt încă, în cea mai mare parte, guvernate de un set de reguli rigide și formalizate bazate pe coduri, ML permite introducerea unor reguli bazate pe coduri care sunt în mod inerent dinamice și adaptative – reproducând astfel unele dintre caracteristicile regulilor juridice tradiționale, caracterizate de flexibilitatea și ambiguitatea limbajului natural.Într-adevăr, în măsura în care pot învăța din datele pe care le colectează sau le primesc, aceste sisteme pot evolua, perfecționându-și în mod constant regulile pentru a se potrivi mai bine cu circumstanțele specifice cărora sunt menite să se aplice.

12Cu toate acestea, utilizarea ML în contextul reglementării nu este lipsită de orice dezavantaj. S-a dovedit deja că procesul decizional bazat pe date este implicit părtinitor și, în consecință, incorect (Hardt, 2014). Presupușii „algoritmi neutri” discriminează sistematic grupurile minoritare în generalizările lor, prezentând rezultate care pot fi catalogate, de exemplu, drept rasiste sau sexiste (Guarino, 2016).

13În plus, dacă sunt puse în aplicare în legislație, dinamicitatea acestor norme ar putea submina noțiunile de universalitate (de exemplu, „toți sunt egali în fața legii”) și de nediscriminare. Pe măsură ce legile sunt încorporate într-un cod ale cărui reguli evoluează în mod dinamic pe măsură ce noi informații sunt introduse în sistem, ar putea deveni dificil pentru oameni nu numai să înțeleagă, ci și să pună la îndoială legitimitatea regulilor care le afectează viața de zi cu zi. Și, pe măsură ce tot mai multe dintre aceste reguli pot fi personalizate și adaptate la profilul fiecărui utilizator în parte, principiile de bază ale universalității și nediscriminării care caracterizează sistemul juridic actual ar putea fi pierdute pentru totdeauna.

.