Introduction
1Nous passons une part croissante de nos vies à interagir au sein de plateformes, dont la base d’utilisateurs dément celle des États-nations existants. Et pourtant, leur gouvernance est très éloignée des valeurs des pays démocratiques. Au contraire, elles sont régies par des logiciels et des algorithmes qui régulent nos interactions. Comme le dit Lessig, « le code, c’est la loi », une forme de réglementation où les acteurs privés peuvent intégrer leurs valeurs dans des artefacts technologiques, contraignant ainsi nos actions. Aujourd’hui, le code est également utilisé par le secteur public comme mécanisme de régulation. Cela présente divers avantages, principalement liés à la capacité d’automatiser la loi et d’appliquer des règles et des règlements a priori, c’est-à-dire avant le fait. Cependant, la réglementation par code s’accompagne également de limitations et d’inconvénients importants qui pourraient créer de nouveaux problèmes liés à l’équité et à la régularité de la procédure. La technologie blockchain offre de nombreuses possibilités nouvelles de transformer le droit en code. En transposant des dispositions légales ou contractuelles dans un « contrat intelligent » basé sur la blockchain avec une garantie d’exécution, ces règles sont automatiquement appliquées par le réseau blockchain sous-jacent et seront donc toujours exécutées comme prévu, indépendamment de la volonté des parties. Cela génère bien sûr de nouveaux problèmes liés au fait qu’aucune partie ne peut affecter l’exécution de ce code. Avec l’adoption généralisée de l’apprentissage automatique, il est possible de contourner certaines des limites de la réglementation par code. Le ML permet l’introduction de règles basées sur le code qui sont intrinsèquement dynamiques et adaptatives, reproduisant certaines des caractéristiques des règles juridiques traditionnelles caractérisées par la flexibilité et l’ambiguïté du langage naturel. Cependant, l’utilisation de la ML dans le contexte de la réglementation n’est pas dénuée d’inconvénients : la prise de décision basée sur les données a montré des biais implicites qui discriminent les minorités, et les lois basées sur la ML peuvent porter atteinte aux principes traditionnels tels que l’universalité et la non-discrimination.
I. Du code est la loi à la loi est le code
2Nous passons une quantité croissante de nos vies à interagir au sein de plateformes, dont la base d’utilisateurs déprécie celle des États-nations existants, par exemple, Facebook jouit de plus de 2 milliards d’utilisateurs, Youtube 1 milliard, et Instagram 700 millions d’utilisateurs. Et pourtant, leur gouvernance est très éloignée des valeurs des pays démocratiques. Ils sont plutôt régis par des logiciels et des algorithmes qui régulent nos interactions et nos communications en ligne par le biais de règles obscures intégrées dans le code source, et élaborées par une poignée d’acteurs privés.
3L’environnement numérique ouvre les portes à une nouvelle forme de régulation – par des acteurs privés – qui pourraient tenter d’imposer leurs propres valeurs en les intégrant dans un artefact technologique. Comme le dit Lessig (1999), » Code is Law » : le code est en définitive l’architecture de l’Internet, et – en tant que tel – est capable de contraindre les actions d’un individu par des moyens technologiques.
4Au fur et à mesure que nos interactions sont régies par des logiciels, nous nous appuyons de plus en plus sur la technologie comme moyen d’appliquer directement les règles. En effet, par opposition aux règles juridiques traditionnelles, qui stipulent simplement ce que les gens doivent ou ne doivent pas faire, les règles techniques déterminent ce que les gens peuvent ou ne peuvent pas faire en premier lieu. Ainsi, il n’est plus nécessaire qu’une autorité d’exécution tierce intervienne après coup pour punir ceux qui ont enfreint la loi. En fin de compte, les logiciels finissent par stipuler ce qui peut ou ne peut pas être fait dans un cadre en ligne spécifique, plus fréquemment que la loi applicable, et possiblement aussi beaucoup plus efficacement.
5Un exemple emblématique de cela sont les systèmes de gestion des droits numériques (DRM), transposant les dispositions de la loi sur le droit d’auteur en mesures technologiques de protection (Rosenblatt, et al., 2002), et restreignant ainsi l’utilisation des œuvres protégées par le droit d’auteur (par exemple, en limitant le nombre de copies possibles d’une chanson numérique qui peuvent être faites). L’avantage de cette forme de réglementation par code est qu’au lieu de compter sur l’application ex post par des tiers (c’est-à-dire les tribunaux et la police), les règles sont appliquées ex ante, ce qui fait qu’il est très difficile pour les gens de les enfreindre en premier lieu. En outre, par opposition aux règles juridiques traditionnelles, qui sont par nature flexibles et ambiguës, les règles techniques sont hautement formalisées et ne laissent que peu ou pas de place à l’ambiguïté, ce qui élimine le besoin d’arbitrage judiciaire.
6Aujourd’hui, la réglementation par code s’impose progressivement comme un mécanisme de réglementation adopté non seulement par le secteur privé mais aussi par le secteur public. Les gouvernements et les administrations publiques s’appuient de plus en plus sur des algorithmes logiciels et des outils technologiques afin de définir des règles de base de code, qui sont automatiquement exécutées (ou appliquées) par la technologie sous-jacente. C’est le cas, par exemple, de la No Fly List aux États-Unis, qui s’appuie sur l’exploration de données pour faire des évaluations prédictives sur les menaces potentielles pour la sécurité nationale (Citron 2007), ou de l’utilisation d’algorithmes informatiques pour soutenir la prise de décision judiciaire et déterminer les peines d’emprisonnement ou les libérations conditionnelles (O’Neil 2016).
7S’appuyer sur des outils technologiques et des règles basées sur des codes comme moyen de réguler la société apporte divers avantages, principalement liés à la capacité d’automatiser la loi et d’appliquer des règles et des règlements a priori, c’est-à-dire avant le fait. Pourtant, la réglementation par le code s’accompagne également d’importants inconvénients qui pourraient finalement perturber certains des principes de base du droit.
8D’une part, contrairement aux règles juridiques traditionnelles, qui doivent être appréciées par un juge et appliquées au cas par cas, les règles basées sur le code sont écrites dans le langage rigide et formalisé du code, qui ne bénéficie pas de la flexibilité et de l’ambiguïté du langage naturel. D’autre part, la mise en œuvre architecturale des plateformes en ligne dépend en fin de compte des choix spécifiques des opérateurs de plateformes et des ingénieurs logiciels, qui cherchent à promouvoir ou à empêcher un certain type d’actions. Comme tout autre artefact technologique, le code n’est pas neutre, mais intrinsèquement politique : il a des implications sociétales importantes, dans la mesure où il pourrait soutenir certaines structures politiques ou faciliter certaines actions et comportements par rapport à d’autres (Winner 1980).
II. Nouveaux défis pour la loi est le code : Blockchain & Machine Learning
9La technologie blockchain – la technologie qui sous-tend le Bitcoin – est une technologie émergente qui s’accompagne de nombreuses possibilités inédites de transformer le droit en code (De Filippi & Hassan, 2016). Avec l’avènement des » contrats intelligents » (c’est-à-dire des logiciels déployés sur un réseau basé sur la blockchain, comme Bitcoin, et exécutés de manière distribuée par un réseau distribué de pairs), la technologie blockchain pourrait révolutionner la manière dont les gens se coordonnent et s’engagent dans de nombreuses transactions économiques et interactions sociales (Tapscott & Tapscott 2016). En effet, la transposition de dispositions légales ou contractuelles dans un smart contract peut donner naissance à un nouvel ensemble de règles basées sur le code avec une « garantie d’exécution ». Ces règles sont automatiquement appliquées par le réseau blockchain sous-jacent et, par conséquent, s’exécuteront toujours comme prévu, indépendamment de la volonté des parties.
10Un contrat intelligent peut être mis en œuvre de manière à rendre possible l’interaction de plusieurs parties, humains ou machines, les uns avec les autres. Ces interactions sont médiées par une application blockchain, contrôlée exclusivement par un ensemble de règles immuables et incorruptibles intégrées dans son code source. En tant que tels, les contrats intelligents augmentent l’applicabilité de la réglementation par code, en permettant aux gens de formaliser des accords contractuels et des transactions économiques dans un ensemble de règles prédéterminées basées sur le code, qui sont auto-exécutoires et auto-applicables. Et dans la mesure où les réseaux basés sur la blockchain et les contrats intelligents associés ne dépendent d’aucun serveur central, ils ne peuvent pas être arrêtés arbitrairement par une seule partie, à moins que cela ne soit spécifiquement prévu dans leur code. Cela a encore exacerbé le problème lié à la rigidité et à la formalité de la réglementation fondée sur le code, dans la mesure où il devient plus difficile pour une partie unique de mettre à niveau le code ou même simplement d’affecter l’exécution de ce code.
11L’apprentissage machine (ML) permet aux logiciels d’acquérir des connaissances à partir de sources externes et d’apprendre ou de faire des choses pour lesquelles ils n’ont pas été explicitement programmés. La disponibilité de quantités croissantes de données (« big data »), ainsi que les progrès récents des réseaux neuronaux et des techniques d’exploration de données, ont conduit à l’adoption généralisée du Machine Learning dans plusieurs plateformes en ligne. Avec le ML, il devient en effet possible de contourner certaines des limitations traditionnellement associées à la régulation par code. Alors que ces plateformes sont encore pour la plupart régies par un ensemble de règles codifiées rigides et formalisées, le ML permet d’introduire des règles codifiées qui sont intrinsèquement dynamiques et adaptatives – reproduisant ainsi certaines des caractéristiques des règles juridiques traditionnelles caractérisées par la flexibilité et l’ambiguïté du langage naturel.En effet, dans la mesure où ils peuvent apprendre des données qu’ils collectent ou reçoivent, ces systèmes peuvent évoluer en affinant constamment leurs règles pour mieux correspondre aux circonstances spécifiques auxquelles elles sont censées s’appliquer.
12Cependant, l’utilisation du ML dans le contexte de la réglementation n’est pas dénuée d’inconvénients. Il a déjà été prouvé que la prise de décision basée sur les données est implicitement biaisée, et par conséquent injuste (Hardt, 2014). Des algorithmes prétendument « neutres » discriminent systématiquement les groupes minoritaires dans leurs généralisations, montrant des résultats qui peuvent être catalogués, par exemple, comme racistes ou sexistes (Guarino 2016).
13De plus, si elles sont mises en œuvre dans la loi, la dynamicité de ces règles pourrait saper les notions d’universalité (c’est-à-dire « tous sont égaux devant la loi ») et de non-discrimination. Comme les lois sont incorporées dans un code dont les règles évoluent dynamiquement à mesure que de nouvelles informations sont introduites dans le système, il pourrait devenir difficile pour les gens non seulement de comprendre, mais aussi de remettre en question la légitimité des règles qui affectent leur vie au quotidien. Et comme de plus en plus de ces règles peuvent être personnalisées et adaptées au profil de chaque utilisateur individuel, les principes fondamentaux d’universalité et de non-discrimination qui caractérisent le système juridique actuel pourraient être perdus à jamais.