Introduction

1Wir verbringen einen immer größeren Teil unseres Lebens damit, mit Plattformen zu interagieren, deren Nutzerbasis diejenige der bestehenden Nationalstaaten in den Schatten stellt. Und doch sind sie weit von den Werten demokratischer Staaten entfernt. Stattdessen werden sie von Software und Algorithmen gesteuert, die unsere Interaktionen regeln. Wie Lessig es ausdrückt: „Code ist Gesetz“, eine Form der Regulierung, bei der private Akteure ihre Werte in technologische Artefakte einbetten können, wodurch unser Handeln effektiv eingeschränkt wird. Heute wird Code auch vom öffentlichen Sektor als Regulierungsmechanismus eingesetzt. Dies bringt eine Reihe von Vorteilen mit sich, die vor allem mit der Fähigkeit zusammenhängen, das Recht zu automatisieren und Regeln und Vorschriften a priori, d. h. im Voraus, durchzusetzen. Die Regulierung durch Code bringt jedoch auch wichtige Einschränkungen und Nachteile mit sich, die neue Probleme in Bezug auf Fairness und ordnungsgemäße Verfahren aufwerfen können. Die Blockchain-Technologie bietet viele neuartige Möglichkeiten, Recht in Code umzuwandeln. Durch die Umsetzung rechtlicher oder vertraglicher Bestimmungen in einen Blockchain-basierten „intelligenten Vertrag“ mit einer Ausführungsgarantie werden diese Regeln automatisch vom zugrunde liegenden Blockchain-Netzwerk durchgesetzt und daher immer wie geplant ausgeführt, unabhängig vom Willen der Parteien. Dies bringt natürlich neue Probleme mit sich, da keine einzelne Partei die Ausführung des Codes beeinflussen kann. Mit der weit verbreiteten Einführung des maschinellen Lernens ist es möglich, einige der Einschränkungen der Regulierung durch Code zu umgehen. ML ermöglicht die Einführung kodebasierter Regeln, die von Natur aus dynamisch und anpassungsfähig sind und einige der Merkmale traditioneller rechtlicher Regeln nachahmen, die durch die Flexibilität und Mehrdeutigkeit der natürlichen Sprache gekennzeichnet sind. Der Einsatz von ML im Kontext der Regulierung ist jedoch nicht frei von Nachteilen: datengesteuerte Entscheidungsfindung hat implizite Voreingenommenheit gezeigt, die Minderheiten diskriminiert, und ML-gesteuerte Gesetze können traditionelle Grundsätze wie Universalität und Nichtdiskriminierung beeinträchtigen.

I. Von „Code is Law“ zu „Law is Code“

2Wir verbringen einen immer größeren Teil unseres Lebens damit, mit Plattformen zu interagieren, deren Nutzerbasis diejenige bestehender Nationalstaaten in den Schatten stellt, z. B. hat Facebook mehr als 2 Milliarden Nutzer, Youtube 1 Milliarde und Instagram 700 Millionen Nutzer. Und doch ist ihre Führung weit von den Werten demokratischer Länder entfernt. Stattdessen werden sie von Software und Algorithmen gesteuert, die unsere Interaktionen und Online-Kommunikation durch obskure, in den Quellcode eingebettete und von einer Handvoll privater Akteure ausgearbeitete Regeln regeln.

3Das digitale Umfeld öffnet die Türen für eine neue Form der Regulierung – durch private Akteure – die versuchen könnten, ihre eigenen Werte durchzusetzen, indem sie sie in ein technologisches Artefakt einbetten. Wie Lessig (1999) feststellte, ist „Code is Law“: Code ist letztlich die Architektur des Internets und als solche in der Lage, die Handlungen eines Individuums mit technologischen Mitteln zu beschränken.

4 Da immer mehr unserer Interaktionen von Software gesteuert werden, verlassen wir uns zunehmend auf Technologie als Mittel zur direkten Durchsetzung von Regeln. Im Gegensatz zu traditionellen rechtlichen Regeln, die lediglich vorschreiben, was Menschen tun oder nicht tun dürfen, bestimmen technische Regeln, was Menschen überhaupt tun oder nicht tun dürfen. Damit entfällt die Notwendigkeit, dass eine dritte Instanz nachträglich eingreift, um diejenigen zu bestrafen, die gegen das Gesetz verstoßen haben. Letztendlich bestimmt Software, was in einer bestimmten Online-Umgebung getan oder nicht getan werden kann, und zwar häufiger als das geltende Recht und möglicherweise auch viel wirksamer.

5 Ein typisches Beispiel dafür sind Systeme zur Verwaltung digitaler Rechte (DRM), die die Bestimmungen des Urheberrechts in technische Schutzmaßnahmen umsetzen (Rosenblatt, et al., 2002) und so die Nutzung urheberrechtlich geschützter Werke einschränken (z. B. durch die Begrenzung der Anzahl der möglichen Kopien eines digitalen Liedes). Der Vorteil dieser Form der Regulierung durch einen Code besteht darin, dass die Regeln nicht nachträglich von Dritten (d. h. Gerichten und Polizei) durchgesetzt werden müssen, sondern ex-ante durchgesetzt werden, wodurch es für die Menschen sehr schwierig wird, sie überhaupt zu verletzen. Außerdem sind technische Regeln im Gegensatz zu den traditionellen rechtlichen Regeln, die von Natur aus flexibel und mehrdeutig sind, stark formalisiert und lassen wenig bis gar keinen Raum für Mehrdeutigkeit, wodurch die Notwendigkeit einer gerichtlichen Schlichtung entfällt.

6 Heutzutage etabliert sich die Regulierung durch Kodizes zunehmend als ein Regulierungsmechanismus, der nicht nur vom Privatsektor, sondern auch vom öffentlichen Sektor übernommen wird. Regierungen und öffentliche Verwaltungen stützen sich zunehmend auf Software-Algorithmen und technologische Werkzeuge, um Regeln auf Code-Basis zu definieren, die von der zugrunde liegenden Technologie automatisch ausgeführt (oder durchgesetzt) werden. Dies ist zum Beispiel bei der No Fly List in den USA der Fall, die sich auf Data Mining stützt, um potenzielle Bedrohungen für die nationale Sicherheit vorausschauend zu bewerten (Citron 2007), oder die Verwendung von Computeralgorithmen zur Unterstützung der Entscheidungsfindung in der Justiz und zur Festsetzung von Haftstrafen oder Bewährungsstrafen (O’Neil 2016).

7Der Rückgriff auf technologische Werkzeuge und kodebasierte Regeln als Mittel zur Regulierung der Gesellschaft bringt eine Reihe von Vorteilen mit sich, die vor allem mit der Fähigkeit zusammenhängen, das Recht zu automatisieren und Regeln und Vorschriften a priori, d. h. vor der Tat, durchzusetzen. Die Regulierung durch Kodizes bringt jedoch auch erhebliche Nachteile mit sich, die letztlich einige der grundlegenden Prinzipien des Rechts in Frage stellen könnten.

8 Einerseits werden kodebasierte Regeln im Gegensatz zu traditionellen rechtlichen Regeln, die von einem Richter geschätzt und von Fall zu Fall angewandt werden müssen, in der starren und formalisierten Sprache des Codes geschrieben, die nicht von der Flexibilität und Mehrdeutigkeit der natürlichen Sprache profitiert. Andererseits hängt die architektonische Umsetzung von Online-Plattformen letztlich von den spezifischen Entscheidungen der Plattformbetreiber und Softwareingenieure ab, die eine bestimmte Art von Handlungen fördern oder verhindern wollen. Wie jedes andere technologische Artefakt ist Code nicht neutral, sondern inhärent politisch: Er hat wichtige gesellschaftliche Implikationen, insofern als er bestimmte politische Strukturen unterstützen oder bestimmte Handlungen und Verhaltensweisen gegenüber anderen erleichtern kann (Winner 1980).

II. Neue Herausforderungen für Law is Code: Blockchain & Maschinelles Lernen

9Die Blockchain-Technologie – die Technologie, die Bitcoin zugrunde liegt – ist eine aufstrebende Technologie, die viele neue Möglichkeiten mit sich bringt, Recht in Code zu verwandeln (De Filippi & Hassan, 2016). Mit dem Aufkommen von „intelligenten Verträgen“ (d. h. Software, die auf einem Blockchain-basierten Netzwerk wie Bitcoin eingesetzt und von einem verteilten Netzwerk von Gleichrangigen ausgeführt wird) könnte die Blockchain-Technologie die Art und Weise revolutionieren, in der Menschen sich koordinieren und sich an vielen wirtschaftlichen Transaktionen und sozialen Interaktionen beteiligen (Tapscott & Tapscott 2016). Durch die Umsetzung rechtlicher oder vertraglicher Bestimmungen in einen intelligenten Vertrag kann nämlich ein neuer Satz codebasierter Regeln mit einer „Ausführungsgarantie“ entstehen. Diese Regeln werden automatisch durch das zugrunde liegende Blockchain-Netzwerk durchgesetzt und werden daher immer wie geplant ausgeführt, unabhängig vom Willen der Parteien.

10Ein intelligenter Vertrag kann so implementiert werden, dass mehrere Parteien, Menschen oder Maschinen, miteinander interagieren können. Diese Interaktionen werden durch eine Blockchain-Anwendung vermittelt, die ausschließlich durch eine Reihe von unveränderlichen und unbestechlichen Regeln gesteuert wird, die in ihrem Quellcode eingebettet sind. Intelligente Verträge erhöhen die Anwendbarkeit der Regulierung durch Code, indem sie es den Menschen ermöglichen, vertragliche Vereinbarungen und wirtschaftliche Transaktionen in einer Reihe von vorbestimmten, codebasierten Regeln zu formalisieren, die sich selbst ausführen und durchsetzen. Und da Blockchain-basierte Netzwerke und damit verbundene intelligente Verträge nicht auf einen zentralen Server angewiesen sind, können sie nicht willkürlich von einer einzelnen Partei abgeschaltet werden – es sei denn, dies ist in ihrem Code ausdrücklich vorgesehen. Dies verschärft das Problem, das mit der Starrheit und Formalität der codebasierten Regulierung zusammenhängt, weiter, da es für eine einzelne Partei schwieriger wird, den Code zu aktualisieren oder auch nur die Ausführung dieses Codes zu beeinflussen.

11Maschinelles Lernen (ML) ermöglicht es Software, Wissen aus externen Quellen zu erwerben und Dinge zu lernen oder zu tun, für die sie nicht ausdrücklich programmiert wurde. Die Verfügbarkeit wachsender Datenmengen („Big Data“) hat zusammen mit den jüngsten Fortschritten bei neuronalen Netzen und Data-Mining-Techniken dazu geführt, dass maschinelles Lernen in mehreren Online-Plattformen weit verbreitet ist. Mit ML wird es möglich, einige der Einschränkungen zu umgehen, die traditionell mit der Regulierung durch Code verbunden sind. Während diese Plattformen immer noch größtenteils durch eine Reihe starrer und formalisierter kodebasierter Regeln geregelt werden, ermöglicht ML die Einführung kodebasierter Regeln, die von Natur aus dynamisch und anpassungsfähig sind und damit einige der Merkmale traditioneller rechtlicher Regeln nachahmen, die durch die Flexibilität und Mehrdeutigkeit der natürlichen Sprache gekennzeichnet sind.

12Der Einsatz von ML im Zusammenhang mit der Regulierung ist jedoch nicht frei von Nachteilen. Die datengesteuerte Entscheidungsfindung hat sich bereits als implizit voreingenommen und folglich als unfair erwiesen (Hardt, 2014). Vermeintlich „neutrale Algorithmen“ diskriminieren in ihren Verallgemeinerungen systematisch Minderheitengruppen und zeigen Ergebnisse, die beispielsweise als rassistisch oder sexistisch eingestuft werden können (Guarino 2016).

13 Darüber hinaus könnte die Dynamik dieser Regeln, wenn sie in Gesetze umgesetzt werden, Vorstellungen von Universalität (d. h. „alle sind vor dem Gesetz gleich“) und Nichtdiskriminierung untergraben. Da Gesetze in ein kodebasiertes System integriert werden, dessen Regeln sich dynamisch weiterentwickeln, wenn neue Informationen in das System eingespeist werden, könnte es für die Menschen schwierig werden, die Legitimität der Regeln, die ihr Leben täglich beeinflussen, nicht nur zu verstehen, sondern auch zu hinterfragen. Und da immer mehr dieser Regeln individuell gestaltet und an das Profil jedes einzelnen Nutzers angepasst werden können, könnten die Grundprinzipien der Universalität und Nichtdiskriminierung, die das derzeitige Rechtssystem kennzeichnen, für immer verloren gehen.