Introduktion
1Vi tillbringar en allt större del av våra liv med att interagera inom plattformar vars användarbas är mindre än existerande nationalstater. Ändå är deras styrning mycket långt ifrån demokratiska länders värderingar. I stället styrs de av programvara och algoritmer som reglerar våra interaktioner. Som Lessig uttrycker det: ”Kod är lag”, en form av reglering där privata aktörer kan inbädda sina värderingar i tekniska artefakter, vilket effektivt begränsar våra handlingar. I dag används kod även av den offentliga sektorn som en regleringsmekanism. Detta medför en rad fördelar, främst i form av förmågan att automatisera lagstiftningen och att tillämpa regler och föreskrifter a priori, dvs. innan de är införda. Men reglering genom kod har också viktiga begränsningar och nackdelar som kan skapa nya frågor om rättvisa och rättssäkerhet. Blockkedjetekniken ger många nya möjligheter att omvandla lag till kod. Genom att överföra rättsliga eller avtalsmässiga bestämmelser till ett blockkedjebaserat ”smart kontrakt” med en garanti för genomförande, verkställs dessa regler automatiskt av det underliggande blockkedjenätverket och kommer därför alltid att genomföras som planerat, oberoende av parternas vilja. Detta skapar naturligtvis nya problem som har att göra med det faktum att ingen enskild part kan påverka utförandet av denna kod. Med det utbredda införandet av maskininlärning är det möjligt att kringgå några av begränsningarna med reglering genom kod. ML gör det möjligt att införa kodbaserade regler som till sin natur är dynamiska och anpassningsbara, och som replikerar några av egenskaperna hos traditionella rättsliga regler som kännetecknas av det naturliga språkets flexibilitet och tvetydighet. Användningen av ML i regleringssammanhang är dock inte utan nackdelar: datadrivet beslutsfattande har visat på implicita fördomar som diskriminerar minoriteter, och ML-drivna lagar kan skada traditionella principer som universalitet och icke-diskriminering.
I. Från kod är lag till lag är kod
2Vi tillbringar en allt större del av våra liv med att interagera inom plattformar vars användarbas är mindre än existerande nationalstater, t.ex. har Facebook mer än 2 miljarder användare, Youtube 1 miljard och Instagram 700 miljoner användare. Ändå är deras styrning mycket långt ifrån demokratiska länders värderingar. I stället styrs de av mjukvara och algoritmer som reglerar våra interaktioner och vår kommunikation på nätet genom obskyra regler som är inbäddade i källkoden och som utarbetas av en handfull privata aktörer.
3Den digitala miljön öppnar dörrarna för en ny form av reglering – av privata aktörer – som kan försöka införa sina egna värderingar genom att bädda in dem i en teknisk artefakt. Som Lessig (1999) säger, ”Code is Law”: kod är i slutändan Internets arkitektur, och som sådan kan den begränsa en individs handlingar med hjälp av tekniska medel.
4I takt med att allt fler av våra interaktioner styrs av mjukvara förlitar vi oss alltmer på tekniken som ett sätt att direkt genomdriva regler. I motsats till traditionella rättsliga regler, som bara föreskriver vad människor ska eller inte ska göra, bestämmer tekniska regler faktiskt vad människor överhuvudtaget kan eller inte kan göra. Detta eliminerar behovet av att en tredje part som är tillsynsmyndighet ingriper i efterhand för att straffa dem som bryter mot lagen. I slutändan är det mjukvaran som bestämmer vad som kan eller inte kan göras i en specifik onlinemiljö, oftare än den tillämpliga lagen, och eventuellt också mycket effektivare.
5Ett emblematiskt exempel på detta är DRM-system (Digital Rights Management), där bestämmelserna i upphovsrättslagen omvandlas till tekniska skyddsåtgärder (Rosenblatt, m.fl., 2002), och där man på så sätt begränsar användningen av upphovsrättsligt skyddade verk (t.ex. genom att begränsa antalet möjliga kopior av en digital sång som kan göras). Fördelen med denna form av reglering genom kod är att i stället för att förlita sig på att tredje parter (dvs. domstolar och polis) verkställer reglerna i efterhand, verkställs reglerna i förväg, vilket gör det mycket svårt för människor att överhuvudtaget bryta mot dem. I motsats till traditionella rättsliga regler, som till sin natur är flexibla och tvetydiga, är tekniska regler dessutom starkt formaliserade och lämnar lite eller inget utrymme för tvetydighet, vilket eliminerar behovet av rättslig skiljedom.
6I dag håller reglering genom koder successivt på att etablera sig som en regleringsmekanism som inte bara antas av den privata sektorn utan även av den offentliga sektorn. Regeringar och offentliga förvaltningar förlitar sig i allt högre grad på mjukvarualgoritmer och tekniska verktyg för att definiera kodbaserade regler som automatiskt utförs (eller verkställs) av den underliggande tekniken. Detta är till exempel fallet med No Fly List i USA, som förlitar sig på datautvinning för att göra förutsägande bedömningar om potentiella hot mot den nationella säkerheten (Citron 2007), eller användningen av datoralgoritmer för att stödja rättsligt beslutsfattande och fastställa fängelsestraff eller villkorlig frigivning (O’Neil 2016).
7 Att förlita sig på tekniska verktyg och kodbaserade regler som ett sätt att reglera samhället medför en rad olika fördelar, främst relaterade till förmågan att automatisera lagen och att tillämpa regler och bestämmelser a priori, dvs. före faktum. Men reglering med hjälp av koder har också viktiga nackdelar som i slutändan kan störa några av lagens grundläggande principer.
8 Å ena sidan är kodbaserade regler, till skillnad från traditionella rättsregler som måste uppskattas av en domare och tillämpas från fall till fall, skrivna på det stela och formaliserade kodspråket, som inte drar nytta av det naturliga språkets flexibilitet och tvetydighet. Å andra sidan beror det arkitektoniska genomförandet av onlineplattformar i slutändan på de specifika val som plattformsoperatörer och programvaruingenjörer gör i syfte att främja eller förhindra en viss typ av handlingar. Precis som alla andra tekniska artefakter är kod inte neutral utan i sig själv politisk: den har viktiga samhälleliga implikationer, i den mån den kan stödja vissa politiska strukturer eller underlätta vissa handlingar och beteenden framför andra (Winner 1980).
II. Nya utmaningar för Law is Code: Blockchain & Maskininlärning
9Blockchain-tekniken – den teknik som ligger till grund för Bitcoin – är en framväxande teknik som kommer med många nya möjligheter att förvandla lag till kod (De Filippi & Hassan, 2016). Med tillkomsten av ”smarta kontrakt” (dvs. programvara som distribueras på ett blockkedjebaserat nätverk, som Bitcoin, och som utförs på ett distribuerat sätt av ett distribuerat nätverk av jämlikar) skulle blockkedjetekniken kunna revolutionera det sätt på vilket människor samordnar sig själva och deltar i många ekonomiska transaktioner och sociala interaktioner (Tapscott & Tapscott, 2016). Genom att överföra rättsliga eller avtalsmässiga bestämmelser till ett smart kontrakt kan man faktiskt ge upphov till en ny uppsättning kodbaserade regler med en ”garanti för utförande”. Dessa regler verkställs automatiskt av det underliggande blockkedjenätverket och kommer därför alltid att utföras som planerat, oavsett parternas vilja.
10Ett smart kontrakt kan genomföras på ett sådant sätt att det blir möjligt för flera parter, människor eller maskiner, att interagera med varandra. Dessa interaktioner förmedlas av en blockkedjeapplikation som uteslutande styrs av en uppsättning oföränderliga och oförstörbara regler som är inbäddade i dess källkod. Smarta kontrakt ökar tillämpningen av reglering genom kod genom att göra det möjligt för människor att formalisera avtalsöverenskommelser och ekonomiska transaktioner i en uppsättning förutbestämda kodbaserade regler, som är självutförande och självförstärkande. Eftersom blockkedjebaserade nätverk och tillhörande smarta kontrakt inte är beroende av någon central server kan de inte godtyckligt stängas av någon enskild part – om det inte uttryckligen föreskrivs i koden. Detta förvärrade ytterligare det problem som hänger samman med den kodbaserade regleringens rigiditet och formalitet, eftersom det blir svårare för en enskild part att uppgradera koden eller ens bara att påverka utförandet av den koden.
11Maskininlärning (ML) gör det möjligt för programvara att förvärva kunskap från externa källor och att lära sig eller göra saker som den inte uttryckligen var programmerad att göra. Tillgången till växande datamängder (”big data”), tillsammans med de senaste framstegen inom neurala nätverk och tekniker för datautvinning, har lett till att maskininlärning har fått stor spridning på flera onlineplattformar. Med ML blir det faktiskt möjligt att kringgå några av de begränsningar som traditionellt är förknippade med reglering genom kod. Även om dessa plattformar fortfarande till största delen styrs av en uppsättning stela och formaliserade kodbaserade regler, gör ML det möjligt att införa kodbaserade regler som till sin natur är dynamiska och anpassningsbara – och på så sätt replikera några av egenskaperna hos traditionella rättsliga regler som kännetecknas av det naturliga språkets flexibilitet och tvetydighet.I den mån de kan lära sig av de uppgifter som de samlar in eller tar emot, kan dessa system utvecklas och ständigt förfina sina regler så att de bättre matchar de specifika omständigheter som de är tänkta att tillämpas på.
12Användningen av ML i samband med reglering är dock inte utan nackdelar. Datadrivet beslutsfattande har redan visat sig vara implicit partisk och följaktligen orättvist (Hardt, 2014). Påstådda ”neutrala algoritmer” diskriminerar systematiskt minoritetsgrupper i sina generaliseringar och visar resultat som kan katalogiseras som till exempel rasistiska eller sexistiska (Guarino 2016).
13Och om dessa regler genomförs i lag kan deras dynamik dessutom undergräva föreställningar om universalitet (dvs. ”alla är lika inför lagen”) och icke-diskriminering. När lagarna införlivas i ett kodbaserat vars regler dynamiskt utvecklas när ny information matas in i systemet, kan det bli svårt för människor att inte bara förstå utan också ifrågasätta legitimiteten i de regler som påverkar deras liv på daglig basis. Och när allt fler av dessa regler kan skräddarsys och anpassas till varje enskild användares profil kan de grundläggande principerna om universalitet och icke-diskriminering som kännetecknar det nuvarande rättssystemet gå förlorade för alltid.