Introduction
1We besteden een steeds groter deel van ons leven aan interactie binnen platforms, waarvan de gebruikersbasis die van bestaande natiestaten verwaarloost. En toch is hun bestuur heel ver verwijderd van de waarden van democratische landen. In plaats daarvan worden ze bestuurd door software en algoritmen die onze interacties reguleren. Zoals Lessig het formuleerde: “Code is Law”, een vorm van regulering waarbij particuliere actoren hun waarden kunnen verankeren in technologische artefacten, waardoor onze handelingen effectief aan banden worden gelegd. Vandaag de dag wordt code ook door de publieke sector gebruikt als reguleringsmechanisme. Dit brengt een hele reeks voordelen met zich mee, meestal in verband met de mogelijkheid om de wet te automatiseren en regels en voorschriften a priori, d.w.z. vóór de feiten, te doen naleven. Regelgeving via een code brengt echter ook belangrijke beperkingen en nadelen met zich mee, die nieuwe kwesties in verband met eerlijkheid en een eerlijk proces kunnen creëren. Blockchain-technologie biedt tal van nieuwe mogelijkheden om wet in code om te zetten. Door wettelijke of contractuele bepalingen om te zetten in een op blockchain gebaseerd “slim contract” met een uitvoeringsgarantie, worden deze regels automatisch afgedwongen door het onderliggende blockchain-netwerk en zullen ze dus altijd worden uitgevoerd zoals gepland, ongeacht de wil van de partijen. Dit genereert natuurlijk nieuwe problemen die verband houden met het feit dat geen enkele partij de uitvoering van die code kan beïnvloeden. Met de wijdverbreide toepassing van Machine Learning is het mogelijk een aantal van de beperkingen van regulering door middel van code te omzeilen. ML maakt de invoering mogelijk van op code gebaseerde regels die inherent dynamisch en adaptief zijn, en een aantal kenmerken nabootsen van traditionele rechtsregels die worden gekenmerkt door de flexibiliteit en ambiguïteit van natuurlijke taal. Het gebruik van ML in de context van regelgeving is echter niet gespeend van nadelen: datagestuurde besluitvorming heeft impliciete vooroordelen laten zien die minderheden discrimineren, en ML-gestuurde wetten kunnen traditionele beginselen als universaliteit en non-discriminatie schaden.
I. Van Code is Wet naar Wet is Code
2We brengen een steeds groter deel van ons leven door met interactie binnen platforms, waarvan de gebruikersbasis die van bestaande natiestaten verwaarloost, bijvoorbeeld Facebook heeft meer dan 2 miljard gebruikers, Youtube 1 miljard, en Instagram 700 miljoen gebruikers. En toch staat hun bestuur ver af van de waarden van democratische landen. In plaats daarvan worden ze bestuurd door software en algoritmen die onze interacties en online communicatie reguleren via obscure regels die in de broncode zijn opgenomen en door een handvol particuliere actoren zijn uitgewerkt.
3De digitale omgeving opent de deuren voor een nieuwe vorm van regulering – door particuliere actoren – die zouden kunnen proberen hun eigen waarden op te leggen door ze in te bedden in een technologisch artefact. Zoals Lessig (1999) stelt: “Code is Law”: code is uiteindelijk de architectuur van het internet, en is – als zodanig – in staat om de handelingen van een individu met technologische middelen te beperken.
4 Naarmate meer en meer van onze interacties door software worden beheerst, vertrouwen we steeds meer op technologie als middel om regels rechtstreeks af te dwingen. In tegenstelling tot de traditionele rechtsregels, die alleen bepalen wat mensen wel en niet mogen doen, bepalen technische regels immers wat mensen überhaupt wel en niet mogen doen. Hierdoor is het niet meer nodig dat een derde handhavingsinstantie achteraf ingrijpt om degenen die de wet hebben overtreden te straffen. Software bepaalt uiteindelijk wat wel of niet kan in een specifieke online setting, vaker dan de toepasselijke wet, en mogelijk ook veel doeltreffender.
5 Een emblematisch voorbeeld daarvan zijn digital rights management (DRM) regelingen, waarbij de bepalingen van de auteurswet worden omgezet in technologische beschermingsmaatregelen (Rosenblatt, et al., 2002), en zo het gebruik van auteursrechtelijk beschermde werken wordt beperkt (bv. door het aantal mogelijke kopieën van een digitaal liedje dat kan worden gemaakt, te beperken). Het voordeel van deze vorm van regulering door middel van codes is dat, in plaats van te vertrouwen op handhaving achteraf door derden (d.w.z. rechtbanken en politie), regels ex ante worden gehandhaafd, waardoor het voor mensen erg moeilijk wordt om ze überhaupt te overtreden. Bovendien zijn technische voorschriften, in tegenstelling tot traditionele rechtsvoorschriften die van nature flexibel en dubbelzinnig zijn, in hoge mate geformaliseerd en laten zij weinig of geen ruimte voor dubbelzinnigheid, zodat er geen behoefte meer is aan rechterlijke arbitrage.
6Heden ten dage wordt regelgeving door middel van codes steeds meer een reguleringsmechanisme dat niet alleen door de particuliere sector, maar ook door de overheidssector wordt toegepast. Regeringen en overheidsdiensten maken steeds meer gebruik van software-algoritmen en technologische instrumenten om regels op basis van codes vast te stellen, die automatisch door de onderliggende technologie worden uitgevoerd (of afgedwongen). Dit is bijvoorbeeld het geval voor de No Fly Lijst in de VS, die steunt op datamining om voorspellende beoordelingen te maken over potentiële bedreigingen voor de nationale veiligheid (Citron 2007), of het gebruik van computeralgoritmen om rechterlijke besluitvorming te ondersteunen en gevangenisstraffen of voorwaardelijke vrijlating te bepalen (O’Neil 2016).
7Het vertrouwen op technologische hulpmiddelen en op codes gebaseerde regels als middel om de samenleving te reguleren brengt een verscheidenheid aan voordelen met zich mee, meestal gerelateerd aan de mogelijkheid om de wet te automatiseren en regels en voorschriften a priori, d.w.z. vóór de feiten, af te dwingen. Regelgeving door middel van codes brengt echter ook belangrijke nadelen met zich mee, die uiteindelijk een aantal basisprincipes van het recht zouden kunnen verstoren.
8 Enerzijds worden op code gebaseerde regels, in tegenstelling tot traditionele rechtsregels, die door een rechter moeten worden beoordeeld en per geval moeten worden toegepast, geschreven in de starre en geformaliseerde taal van de code, die niet profiteert van de flexibiliteit en ambiguïteit van natuurlijke taal. Anderzijds hangt de architecturale implementatie van onlineplatforms uiteindelijk af van de specifieke keuzes van platformexploitanten en software-ingenieurs, die een bepaald soort acties willen bevorderen of voorkomen. Net als elk ander technologisch artefact is code niet neutraal, maar inherent politiek: het heeft belangrijke maatschappelijke implicaties, in zoverre het bepaalde politieke structuren kan ondersteunen of bepaalde acties en gedragingen kan faciliteren ten opzichte van andere (Winner 1980).
II. Nieuwe uitdagingen voor Law is Code: Blockchain & Machine Learning
9Blockchaintechnologie – de technologie die ten grondslag ligt aan Bitcoin – is een opkomende technologie die komt met veel nieuwe mogelijkheden om recht in code te veranderen (De Filippi & Hassan, 2016). Met de komst van “slimme contracten” (d.w.z. software die wordt ingezet op een op blockchain gebaseerd netwerk, zoals Bitcoin, en op een gedistribueerde manier wordt uitgevoerd door een gedistribueerd netwerk van peers), zou blockchaintechnologie een revolutie kunnen veroorzaken in de manier waarop mensen zichzelf coördineren en zich bezighouden met vele economische transacties en sociale interacties (Tapscott & Tapscott 2016). Het omzetten van wettelijke of contractuele bepalingen in een smart contract kan immers aanleiding geven tot een nieuwe reeks op code gebaseerde regels met een “uitvoeringsgarantie”. Deze regels worden automatisch afgedwongen door het onderliggende blockchain-netwerk en zullen daarom altijd volgens plan worden uitgevoerd, ongeacht de wil van de partijen.
10Een smart contract kan zo worden geïmplementeerd dat het voor meerdere partijen, mensen of machines, mogelijk wordt om met elkaar te interageren. Deze interacties worden bemiddeld door een blockchaintoepassing, die uitsluitend wordt gecontroleerd door een reeks onveranderlijke en onkreukbare regels die in de broncode ervan zijn opgenomen. Als zodanig vergroten slimme contracten de toepasbaarheid van regulering door code, door het voor mensen mogelijk te maken om contractuele overeenkomsten en economische transacties te formaliseren in een reeks vooraf bepaalde, op code gebaseerde regels, die zelfuitvoerend en zelfhandhavend zijn. En aangezien op blockchain gebaseerde netwerken en bijbehorende slimme contracten niet afhankelijk zijn van een centrale server, kunnen zij niet willekeurig door één enkele partij worden stilgelegd – tenzij dit specifiek in hun code is voorzien. Dit verergerde het probleem met betrekking tot de starheid en formaliteit van op code gebaseerde regulering verder, in die zin dat het moeilijker wordt voor een enkele partij om de code te upgraden of zelfs alleen maar om de uitvoering van die code te beïnvloeden.
11Machine-leren (ML) stelt software in staat kennis te verwerven uit externe bronnen en dingen te leren of te doen waarvoor zij niet expliciet is geprogrammeerd. De beschikbaarheid van steeds grotere hoeveelheden gegevens (“big data”) heeft, samen met de recente vooruitgang op het gebied van neurale netwerken en dataminingtechnieken, geleid tot de wijdverbreide toepassing van Machine Learning in verschillende onlineplatforms. Met ML wordt het in feite mogelijk een aantal van de beperkingen te omzeilen die traditioneel met regelgeving via code worden geassocieerd. Terwijl deze platforms nog steeds voor het grootste deel worden beheerst door een reeks rigide en geformaliseerde op code gebaseerde regels, maakt ML de invoering mogelijk van op code gebaseerde regels die inherent dynamisch en adaptief zijn – waarmee enkele van de kenmerken van traditionele juridische regels worden gerepliceerd die worden gekenmerkt door de flexibiliteit en ambiguïteit van natuurlijke taal.Voor zover zij kunnen leren van de gegevens die zij verzamelen of ontvangen, kunnen deze systemen namelijk voortdurend evolueren en hun regels verfijnen om beter aan te sluiten bij de specifieke omstandigheden waarop zij van toepassing moeten zijn.
12Het gebruik van ML in de context van regelgeving is echter niet gespeend van nadelen. Van data-gestuurde besluitvorming is al bewezen dat deze impliciet bevooroordeeld is, en dus oneerlijk (Hardt, 2014). Beweerdelijk “neutrale algoritmen” discrimineren systematisch minderheidsgroepen in hun generalisaties, en laten resultaten zien die bijvoorbeeld als racistisch of seksistisch kunnen worden gecatalogeerd (Guarino 2016).
13 Bovendien zou de dynamiek van deze regels, als ze in wetgeving worden omgezet, noties van universaliteit (d.w.z. “allen zijn gelijk voor de wet”) en non-discriminatie kunnen ondermijnen. Naarmate wetten worden opgenomen in een code waarvan de regels dynamisch evolueren naarmate nieuwe informatie in het systeem wordt ingevoerd, zou het voor mensen moeilijk kunnen worden om de regels die hun dagelijks leven beïnvloeden niet alleen te begrijpen, maar ook om de legitimiteit ervan in twijfel te trekken. En naarmate meer en meer van deze regels kunnen worden aangepast en aangepast aan het profiel van elke individuele gebruiker, zouden de basisbeginselen van universaliteit en non-discriminatie die het huidige rechtssysteem kenmerken, wel eens voorgoed verloren kunnen gaan.