Introduzione

1Stiamo passando una quantità crescente delle nostre vite interagendo all’interno di piattaforme, la cui base di utenti sminuisce quella degli stati nazionali esistenti. Eppure, la loro governance è molto lontana dai valori dei paesi democratici. Invece, sono governate da software e algoritmi che regolano le nostre interazioni. Come ha detto Lessig, “il codice è legge”, una forma di regolamentazione in cui gli attori privati possono incorporare i loro valori negli artefatti tecnologici, vincolando efficacemente le nostre azioni. Oggi, il codice è usato anche dal settore pubblico come meccanismo di regolamentazione. Questo porta una varietà di benefici, per lo più legati alla capacità di automatizzare la legge e di applicare norme e regolamenti a priori, cioè prima del fatto. Tuttavia, la regolamentazione tramite codice viene anche con importanti limitazioni e svantaggi che potrebbero creare nuove questioni relative all’equità e al giusto processo. La tecnologia Blockchain viene con molte nuove opportunità di trasformare la legge in codice. Trasponendo le disposizioni legali o contrattuali in un “contratto intelligente” basato su blockchain con una garanzia di esecuzione, queste regole sono automaticamente applicate dalla rete blockchain sottostante e, quindi, saranno sempre eseguite come previsto, indipendentemente dalla volontà delle parti. Questo, ovviamente, genera nuovi problemi legati al fatto che nessuna singola parte può influenzare l’esecuzione di quel codice. Con l’adozione diffusa del Machine Learning, è possibile aggirare alcune delle limitazioni della regolamentazione tramite codice. Il ML permette l’introduzione di regole basate sul codice che sono intrinsecamente dinamiche e adattive, replicando alcune delle caratteristiche delle regole legali tradizionali caratterizzate dalla flessibilità e dall’ambiguità del linguaggio naturale. Tuttavia, l’uso del ML nel contesto della regolamentazione non è privo di inconvenienti: il processo decisionale guidato dai dati ha mostrato pregiudizi impliciti che discriminano le minoranze, e le leggi guidate dal ML possono danneggiare principi tradizionali come l’universalità e la non discriminazione.

I. Dal Codice è Legge alla Legge è Codice

2Stiamo trascorrendo una quantità crescente delle nostre vite interagendo all’interno di piattaforme, la cui base di utenti sminuisce quella degli stati nazionali esistenti, ad esempio Facebook gode di più di 2 miliardi di utenti, Youtube 1 miliardo, e Instagram 700 milioni di utenti. Eppure, la loro governance è molto lontana dai valori dei paesi democratici. Invece, sono governati da software e algoritmi che regolano le nostre interazioni e comunicazioni online attraverso regole oscure incorporate nel codice sorgente, ed elaborate da una manciata di attori privati.

3 L’ambiente digitale apre le porte a una nuova forma di regolamentazione – da parte di attori privati – che potrebbero cercare di imporre i propri valori incorporandoli in un artefatto tecnologico. Come affermato da Lessig (1999), “Code is Law”: il codice è in definitiva l’architettura di Internet, e – come tale – è in grado di vincolare le azioni di un individuo attraverso mezzi tecnologici.

4 Poiché sempre più delle nostre interazioni sono governate dal software, ci affidiamo sempre più alla tecnologia come mezzo per far rispettare direttamente le regole. Infatti, al contrario delle tradizionali regole legali, che si limitano a stabilire ciò che le persone devono o non devono fare, le regole tecniche determinano ciò che le persone possono o non possono fare in primo luogo. Questo elimina la necessità di qualsiasi autorità di applicazione di terze parti di intervenire dopo il fatto, per punire coloro che hanno infranto la legge. Il software finisce per stabilire cosa si può o non si può fare in uno specifico ambiente online, più frequentemente della legge applicabile, e possibilmente anche molto più efficacemente.

5 Un esempio emblematico di ciò sono gli schemi di gestione dei diritti digitali (DRM), che traspongono le disposizioni della legge sul copyright in misure tecnologiche di protezione (Rosenblatt, et al., 2002), e quindi limitano l’uso di opere protette da copyright (per esempio, limitando il numero di possibili copie di una canzone digitale che possono essere fatte). Il vantaggio di questa forma di regolamentazione tramite codice è che, invece di fare affidamento sull’applicazione ex-post da parte di terzi (cioè, tribunali e polizia), le regole sono applicate ex-ante, rendendo molto difficile per le persone violarle in primo luogo. Inoltre, al contrario delle regole legali tradizionali, che sono intrinsecamente flessibili e ambigue, le regole tecniche sono altamente formalizzate e non lasciano spazio all’ambiguità, eliminando così la necessità dell’arbitrato giudiziario.

6Oggi, la regolamentazione tramite codice si sta progressivamente affermando come un meccanismo di regolamentazione adottato non solo dal settore privato ma anche dal settore pubblico. I governi e le amministrazioni pubbliche si affidano sempre di più ad algoritmi software e a strumenti tecnologici per definire regole per codice, che vengono eseguite (o fatte rispettare) automaticamente dalla tecnologia sottostante. Questo è il caso, per esempio, della No Fly List negli Stati Uniti, che si basa sul data mining per fare valutazioni predittive sulle potenziali minacce alla sicurezza nazionale (Citron 2007), o l’uso di algoritmi informatici per supportare il processo decisionale giudiziario e determinare condanne al carcere o alla libertà vigilata (O’Neil 2016).

7Affidarsi a strumenti tecnologici e a regole basate sul codice come mezzo per regolare la società comporta una serie di benefici, per lo più legati alla capacità di automatizzare la legge e di far rispettare norme e regolamenti a priori, cioè prima del fatto. Tuttavia, la regolamentazione tramite codice presenta anche importanti svantaggi che potrebbero alla fine sconvolgere alcuni dei principi fondamentali del diritto.

8 Da un lato, a differenza delle regole legali tradizionali, che devono essere apprezzate da un giudice e applicate caso per caso, le regole basate sul codice sono scritte nel linguaggio rigido e formalizzato del codice, che non beneficia della flessibilità e ambiguità del linguaggio naturale. D’altra parte, l’implementazione architettonica delle piattaforme online dipende in ultima analisi dalle scelte specifiche degli operatori della piattaforma e degli ingegneri del software, che cercano di promuovere o impedire un certo tipo di azioni. Proprio come ogni altro artefatto tecnologico, il codice non è neutrale, ma intrinsecamente politico: ha importanti implicazioni sociali, nella misura in cui può sostenere certe strutture politiche o facilitare certe azioni e comportamenti rispetto ad altri (Winner 1980).

II. Nuove sfide alla Legge è Codice: Blockchain & Machine Learning

9La tecnologia Blockchain – la tecnologia alla base di Bitcoin – è una tecnologia emergente che viene con molte nuove opportunità di trasformare la legge in codice (De Filippi & Hassan, 2016). Con l’avvento dei “contratti intelligenti” (cioè software distribuiti su una rete basata su blockchain, come Bitcoin, ed eseguiti in modo distribuito da una rete distribuita di pari), la tecnologia blockchain potrebbe rivoluzionare il modo in cui le persone si coordinano e si impegnano in molte transazioni economiche e interazioni sociali (Tapscott & Tapscott 2016). Infatti, la trasposizione di disposizioni legali o contrattuali in uno smart contract può dare origine a un nuovo insieme di regole basate sul codice con una “garanzia di esecuzione”. Queste regole sono automaticamente applicate dalla rete blockchain sottostante e, quindi, si eseguiranno sempre come previsto, indipendentemente dalla volontà delle parti.

10Un contratto intelligente può essere implementato in modo tale da rendere possibile l’interazione tra più parti, uomini o macchine. Queste interazioni sono mediate da un’applicazione blockchain, controllata esclusivamente da un insieme di regole immutabili e incorruttibili incorporate nel suo codice sorgente. Come tali, i contratti intelligenti aumentano l’applicabilità della regolamentazione tramite codice, rendendo possibile alle persone di formalizzare accordi contrattuali e transazioni economiche in un insieme di regole predeterminate basate sul codice, che sono auto-esecutive e auto-applicative. E nella misura in cui le reti basate su blockchain e i contratti intelligenti associati non si basano su alcun server centrale, non possono essere arbitrariamente chiusi da una singola parte – a meno che non sia specificamente previsto nel loro codice. Questo aggrava ulteriormente il problema legato alla rigidità e alla formalità della regolamentazione basata sul codice, nel senso che diventa più difficile per qualsiasi singola parte aggiornare il codice o anche solo influenzare l’esecuzione di quel codice.

11Machine Learning (ML) permette al software di acquisire conoscenza da fonti esterne e di imparare o fare cose che non è stato esplicitamente programmato a fare. La disponibilità di crescenti quantità di dati (“big data”), insieme ai recenti progressi nelle reti neurali e nelle tecniche di data mining, ha portato all’adozione diffusa del Machine Learning in diverse piattaforme online. Con il ML, diventa infatti possibile aggirare alcune delle limitazioni tradizionalmente associate alla regolamentazione per codice. Mentre queste piattaforme sono ancora per la maggior parte governate da un insieme di regole rigide e formalizzate basate sul codice, il ML permette l’introduzione di regole basate sul codice che sono intrinsecamente dinamiche e adattive – replicando così alcune delle caratteristiche delle regole legali tradizionali caratterizzate dalla flessibilità e dall’ambiguità del linguaggio naturale.

12Tuttavia, l’uso del ML nel contesto della regolamentazione non è privo di inconvenienti. È già stato dimostrato che il processo decisionale basato sui dati è implicitamente di parte, e di conseguenza ingiusto (Hardt, 2014). Algoritmi presunti “neutrali” discriminano sistematicamente gruppi minoritari nelle loro generalizzazioni, mostrando risultati che possono essere catalogati, per esempio, come razzisti o sessisti (Guarino 2016).

13Inoltre, se implementate in legge, la dinamicità di queste regole potrebbe minare le nozioni di universalità (cioè “tutti sono uguali davanti alla legge”) e di non discriminazione. Poiché le leggi sono incorporate in un codice le cui regole si evolvono dinamicamente man mano che nuove informazioni vengono immesse nel sistema, potrebbe diventare difficile per le persone non solo capire, ma anche mettere in discussione la legittimità delle regole che stanno influenzando le loro vite su base quotidiana. E poiché sempre più di queste regole possono essere personalizzate e adattate al profilo di ogni singolo utente, i principi fondamentali di universalità e non discriminazione che caratterizzano l’attuale sistema giuridico potrebbero essere persi per sempre.