Introduktion
1Vi bruger en stadig større del af vores liv på at interagere inden for platforme, hvis brugergrundlag er mindre end eksisterende nationalstaters. Og alligevel er deres forvaltning meget langt fra de demokratiske landes værdier. I stedet styres de af software og algoritmer, der regulerer vores interaktioner. Som Lessig udtrykker det: “Code is Law”, en form for regulering, hvor private aktører kan indlejre deres værdier i teknologiske artefakter, hvilket effektivt begrænser vores handlinger. I dag anvendes kode også af den offentlige sektor som en reguleringsmekanisme. Dette giver en række fordele, som hovedsagelig vedrører muligheden for at automatisere loven og håndhæve regler og bestemmelser a priori, dvs. før de foreligger. Men regulering ved hjælp af kodeks er også forbundet med betydelige begrænsninger og ulemper, som kan skabe nye problemer med hensyn til retfærdighed og retfærdig rettergang. Blockchain-teknologien kommer med mange nye muligheder for at gøre loven til kode. Ved at omsætte juridiske eller kontraktmæssige bestemmelser til en blockchain-baseret “smart kontrakt” med en garanti for udførelse, håndhæves disse regler automatisk af det underliggende blockchain-netværk og vil derfor altid blive udført som planlagt, uanset parternes vilje. Dette skaber naturligvis nye problemer i forbindelse med det faktum, at ingen enkelt part kan påvirke udførelsen af denne kode. Med den udbredte anvendelse af maskinlæring er det muligt at omgå nogle af begrænsningerne ved regulering ved hjælp af kode. ML gør det muligt at indføre kodebaserede regler, som i sagens natur er dynamiske og tilpasningsdygtige, og som gengiver nogle af karakteristikaene ved traditionelle juridiske regler, der er kendetegnet ved det naturlige sprogs fleksibilitet og tvetydighed. Anvendelsen af ML i forbindelse med regulering er imidlertid ikke uden ulemper: datadrevet beslutningstagning har vist implicitte fordomme, der diskriminerer minoriteter, og ML-drevne love kan skade traditionelle principper som universalitet og ikke-diskrimination.
I. Fra kode er lov til lov er kode
2Vi bruger en stadig større del af vores liv på at interagere på platforme, hvis brugergrundlag er mindre end de eksisterende nationalstaters, f.eks. har Facebook mere end 2 milliarder brugere, Youtube 1 milliard og Instagram 700 millioner brugere. Og alligevel er deres forvaltning meget langt fra de demokratiske landes værdier. I stedet styres de af software og algoritmer, der regulerer vores interaktioner og onlinekommunikation gennem obskure regler, der er indlejret i kildekoden og udarbejdet af en håndfuld private aktører.
3Det digitale miljø åbner dørene for en ny form for regulering – af private aktører – som kan forsøge at pålægge deres egne værdier ved at indlejre dem i en teknologisk artefakt. Som anført af Lessig (1999), “Code is Law”: kode er i sidste ende internettets arkitektur og er som sådan i stand til at begrænse et individs handlinger via teknologiske midler.
4I takt med at flere og flere af vores interaktioner styres af software, er vi i stigende grad afhængige af teknologien som et middel til direkte at håndhæve regler. I modsætning til traditionelle juridiske regler, som blot fastsætter, hvad folk skal eller ikke skal gøre, bestemmer tekniske regler nemlig, hvad folk overhovedet kan eller ikke kan gøre. Dermed er der ikke længere behov for, at en tredjeparts håndhævelsesmyndighed skal gribe ind efterfølgende for at straffe dem, der har overtrådt loven. Software ender i sidste ende med at fastsætte, hvad der kan eller ikke kan gøres i en specifik online-situation, oftere end den gældende lov, og muligvis også meget mere effektivt.
5Et emblematisk eksempel herpå er DRM-ordninger (Digital Rights Management), der omsætter bestemmelserne i ophavsretslovgivningen til teknologiske beskyttelsesforanstaltninger (Rosenblatt, et al., 2002) og dermed begrænser brugen af ophavsretligt beskyttede værker (f.eks. ved at begrænse antallet af mulige kopier af en digital sang, der kan laves). Fordelen ved denne form for regulering ved hjælp af kode er, at i stedet for at være afhængig af efterfølgende håndhævelse af tredjeparter (dvs. domstole og politi), håndhæves reglerne på forhånd, hvilket gør det meget vanskeligt for folk at overtræde dem i første omgang. I modsætning til traditionelle juridiske regler, som i sagens natur er fleksible og tvetydige, er tekniske regler desuden stærkt formaliserede og giver kun lidt eller slet ikke plads til tvetydighed, hvilket eliminerer behovet for voldgift ved domstolene.
6 I dag er regulering ved hjælp af kodeks ved at etablere sig som en reguleringsmekanisme, der ikke kun anvendes af den private sektor, men også af den offentlige sektor. Regeringer og offentlige forvaltninger benytter sig i stigende grad af softwarealgoritmer og teknologiske værktøjer til at definere regler på kodebasis, som automatisk udføres (eller håndhæves) af den underliggende teknologi. Dette er f.eks. tilfældet med No Fly List i USA, som er baseret på datamining til at foretage forudsigende vurderinger af potentielle trusler mod den nationale sikkerhed (Citron 2007), eller brugen af computeralgoritmer til at understøtte retslige beslutninger og fastlægge fængselsstraffe eller prøveløsladelser (O’Neil 2016).
7 At satse på teknologiske værktøjer og kodebaserede regler som et middel til at regulere samfundet medfører en række fordele, der for det meste er relateret til evnen til at automatisere loven og håndhæve regler og bestemmelser a priori, dvs. før de faktiske omstændigheder. Men regulering ved hjælp af koder er også forbundet med betydelige ulemper, som i sidste ende kan forstyrre nogle af de grundlæggende principper i lovgivningen.
8 På den ene side er kodebaserede regler i modsætning til traditionelle retsregler, som skal vurderes af en dommer og anvendes fra sag til sag, skrevet i det stive og formaliserede kodesprog, som ikke nyder godt af det naturlige sprogs fleksibilitet og tvetydighed. På den anden side afhænger den arkitektoniske gennemførelse af onlineplatforme i sidste ende af de specifikke valg, som platformoperatørerne og softwareingeniørerne træffer for at fremme eller forhindre en bestemt type handlinger. Ligesom enhver anden teknologisk artefakt er kode ikke neutral, men i sagens natur politisk: den har vigtige samfundsmæssige implikationer, for så vidt som den kan understøtte visse politiske strukturer eller fremme visse handlinger og adfærd frem for andre (Winner 1980).
II. Nye udfordringer til Law is Code: Blockchain & Machine Learning
9Blockchain-teknologi – den teknologi, der ligger til grund for Bitcoin – er en fremvoksende teknologi, der kommer med mange nye muligheder for at gøre lov til kode (De Filippi & Hassan, 2016). Med fremkomsten af “smarte kontrakter” (dvs. software, der implementeres på et blockchain-baseret netværk som Bitcoin og udføres på en distribueret måde af et distribueret netværk af ligesindede) kan blockchain-teknologien revolutionere den måde, hvorpå folk koordinerer sig selv og deltager i mange økonomiske transaktioner og sociale interaktioner (Tapscott & Tapscott 2016). Ved at omsætte juridiske eller kontraktmæssige bestemmelser til en smart kontrakt kan der nemlig skabes et nyt sæt kodebaserede regler med en “garanti for udførelse”. Disse regler håndhæves automatisk af det underliggende blockchain-netværk og vil derfor altid blive eksekveret som planlagt, uanset parternes vilje.
10En smart kontrakt kan gennemføres på en sådan måde, at det bliver muligt for flere parter, mennesker eller maskiner, at interagere med hinanden. Disse interaktioner formidles af en blockchain-applikation, der udelukkende styres af et sæt uforanderlige og uforanderlige regler, der er indlejret i dens kildekode. Som sådan øger smarte kontrakter anvendelsen af regulering ved hjælp af kode ved at gøre det muligt for mennesker at formalisere kontraktlige aftaler og økonomiske transaktioner i et sæt forudbestemte kodebaserede regler, som er selvudførende og selvhåndhævende. Og i det omfang blockchain-baserede netværk og tilhørende smarte kontrakter ikke er afhængige af en central server, kan de ikke lukkes vilkårligt ned af en enkelt part – medmindre det specifikt er fastsat i deres kode. Dette har yderligere forværret problemet i forbindelse med den kodebaserede regulerings stivhed og formalitet, idet det bliver sværere for en enkelt part at opgradere koden eller blot at påvirke udførelsen af denne kode.
11Machine Learning (ML) giver software mulighed for at erhverve viden fra eksterne kilder og for at lære eller gøre ting, som den ikke udtrykkeligt er programmeret til at gøre. Tilgængeligheden af voksende datamængder (“big data”) har sammen med de seneste fremskridt inden for neurale netværk og data mining-teknikker ført til en udbredt anvendelse af maskinlæring i flere onlineplatforme. Med ML bliver det faktisk muligt at omgå nogle af de begrænsninger, der traditionelt er forbundet med regulering ved hjælp af kode. Mens disse platforme for størstedelens vedkommende stadig er styret af et sæt stive og formaliserede kodebaserede regler, giver ML mulighed for at indføre kodebaserede regler, som i sagens natur er dynamiske og adaptive – og derved gentage nogle af de traditionelle juridiske reglers karakteristika, der er kendetegnet ved det naturlige sprogs fleksibilitet og tvetydighed.I det omfang, de kan lære af de data, de indsamler eller modtager, kan disse systemer udvikle sig og konstant forfine deres regler, så de bedre passer til de specifikke omstændigheder, som de skal gælde for.
12Brug af ML i forbindelse med regulering er imidlertid ikke uden ulemper. Datadrevet beslutningstagning har allerede vist sig at være implicit forudindtaget og følgelig uretfærdig (Hardt, 2014). Angiveligt “neutrale algoritmer” diskriminerer systematisk minoritetsgrupper i deres generaliseringer og viser resultater, som f.eks. kan katalogiseres som racistiske eller sexistiske (Guarino 2016).
13Herudover kan dynamikken i disse regler, hvis de gennemføres i lovgivningen, underminere forestillinger om universalitet (dvs. “alle er lige for loven”) og ikke-diskrimination. Når love indarbejdes i et kodebaseret system, hvis regler dynamisk udvikler sig, efterhånden som nye oplysninger tilføres systemet, kan det blive vanskeligt for folk ikke blot at forstå, men også at sætte spørgsmålstegn ved legitimiteten af de regler, der påvirker deres liv på daglig basis. Og efterhånden som flere og flere af disse regler kan skræddersyes og tilpasses den enkelte brugers profil, kan de grundlæggende principper om universalitet og ikke-diskrimination, som kendetegner det nuværende retssystem, gå tabt for altid.