Introdução
1Estamos a gastar quantidades crescentes das nossas vidas a interagir dentro de plataformas, cuja base de utilizadores desvaloriza a dos estados nacionais existentes. E ainda assim, a sua governação está muito longe dos valores dos países democráticos. Ao invés disso, eles são governados por software e algoritmos que regulam nossas interações. Como diz Lessig, “Código é Lei”, uma forma de regulação onde os actores privados podem incorporar os seus valores em artefactos tecnológicos, restringindo efectivamente as nossas acções. Hoje, o código também é utilizado pelo setor público como um mecanismo regulador. Isto traz uma variedade de benefícios, principalmente relacionados à capacidade de automatizar a lei e de fazer cumprir as regras e regulamentos a priori, ou seja, antes do fato. No entanto, a regulamentação por código também vem com importantes limitações e inconvenientes que podem criar novas questões relacionadas com a justiça e o devido processo. A tecnologia da cadeia de bloqueio vem com muitas oportunidades novas de transformar a lei em código. Ao transpor disposições legais ou contratuais para um “contrato inteligente” baseado em cadeias de bloqueio com garantia de execução, estas regras são automaticamente aplicadas pela rede de cadeias de bloqueio subjacente e serão, portanto, sempre executadas conforme planejado, independentemente da vontade das partes. Isto, naturalmente, gera novos problemas relacionados ao fato de que nenhuma das partes pode afetar a execução desse código. Com a adoção generalizada do Machine Learning, é possível contornar algumas das limitações da regulamentação por código. O ML permite a introdução de regras baseadas em código que são inerentemente dinâmicas e adaptáveis, replicando algumas das características das regras legais tradicionais caracterizadas pela flexibilidade e ambiguidade da linguagem natural. No entanto, o uso de ML no contexto da regulação não é desprovido de qualquer desvantagem: a tomada de decisão baseada em dados tem mostrado um viés implícito que discrimina minorias, e as leis de ML podem prejudicar princípios tradicionais como a universalidade e a não-discriminação.
I. De Código é Lei para Lei é Código
2 Estamos gastando quantidades crescentes de nossas vidas interagindo dentro de plataformas, cuja base de usuários desvaloriza a dos estados nacionais existentes, por exemplo, Facebook goza de mais de 2 bilhões de usuários, Youtube 1 bilhão, e Instagram 700 milhões de usuários. E ainda assim, sua governança está muito longe dos valores dos países democráticos. Ao invés disso, eles são governados por software e algoritmos que regulam nossas interações e comunicações online através de regras obscuras embutidas no código fonte, e elaboradas por um punhado de atores privados.
3 O ambiente digital abre as portas para uma nova forma de regulação – por atores privados – que podem tentar impor seus próprios valores, incorporando-os em um artefato tecnológico. Como diz Lessig (1999), “Código é Lei”: código é, em última análise, a arquitetura da Internet, e – como tal – é capaz de restringir as ações de um indivíduo através de meios tecnológicos.
4 Como cada vez mais nossas interações são governadas por software, nós confiamos cada vez mais na tecnologia como um meio de impor regras diretamente. Na verdade, ao contrário das regras legais tradicionais, que apenas estipulam o que as pessoas devem ou não fazer, as regras técnicas determinam o que as pessoas podem ou não fazer em primeiro lugar. Isso elimina a necessidade de qualquer autoridade de execução de terceiros intervir após o fato, a fim de punir aqueles que infringiram a lei. O software acaba por estipular o que pode ou não ser feito em um ambiente on-line específico, mais frequentemente do que a lei aplicável, e possível também muito mais efetivamente.
5Um exemplo emblemático disso são os esquemas de gestão de direitos digitais (DRM), transpondo as disposições da lei de direitos autorais para medidas tecnológicas de proteção (Rosenblatt, et al., 2002), e assim restringindo o uso de obras protegidas por direitos autorais (por exemplo, limitando o número de possíveis cópias de uma canção digital que podem ser feitas). A vantagem desta forma de regulação por código é que, em vez de confiar na aplicação ex-post por terceiros (isto é, tribunais e polícia), as regras são aplicadas ex-ante, tornando muito difícil para as pessoas violá-las em primeiro lugar. Além disso, ao contrário das regras legais tradicionais, que são inerentemente flexíveis e ambíguas, as regras técnicas são altamente formalizadas e deixam pouco ou nenhum espaço para ambiguidade, eliminando assim a necessidade de arbitragem judicial.
6 Hoje em dia, a regulação por código está progressivamente a estabelecer-se como um mecanismo regulador adoptado não só pelo sector privado mas também pelo sector público. Governos e administrações públicas confiam cada vez mais em algoritmos de software e ferramentas tecnológicas para definir regras de base de código, que são automaticamente executadas (ou aplicadas) pela tecnologia subjacente. Este é o caso, por exemplo, da No Fly List nos Estados Unidos, que se baseia na mineração de dados para fazer avaliações preditivas sobre ameaças potenciais à segurança nacional (Citron 2007), ou o uso de algoritmos de computador para apoiar a tomada de decisões judiciais e determinar sentenças de prisão ou penas de prisão (O’Neil 2016).
7 Confiar em ferramentas tecnológicas e regras baseadas em código como um meio de regular a sociedade traz uma variedade de benefícios, principalmente relacionados com a capacidade de automatizar a lei e de fazer cumprir as regras e regulamentos a priori, ou seja, antes do fato. No entanto, a regulamentação por código também traz inconvenientes importantes que podem acabar por perturbar alguns dos princípios básicos da lei.
8 Por um lado, em contraste com as regras legais tradicionais, que devem ser apreciadas por um juiz e aplicadas caso a caso, as regras baseadas em código são escritas na linguagem rígida e formalizada do código, que não se beneficia da flexibilidade e ambiguidade da linguagem natural. Por outro lado, a implementação arquitectónica de plataformas online depende, em última instância, das escolhas específicas dos operadores de plataformas e dos engenheiros de software, procurando promover ou prevenir um determinado tipo de acções. Como qualquer outro artefato tecnológico, o código não é neutro, mas inerentemente político: ele tem implicações sociais importantes, na medida em que pode apoiar certas estruturas políticas ou facilitar certas ações e comportamentos sobre outros (Winner 1980).
II. Novos desafios ao Direito é o Código: Blockchain & Machine Learning
9Blockchain technology – a tecnologia subjacente ao Bitcoin – é uma tecnologia emergente que vem com muitas oportunidades novas de transformar a lei em código (De Filippi & Hassan, 2016). Com o advento dos “contratos inteligentes” (ou seja, software implantado em uma rede baseada em cadeias de blocos, como Bitcoin, e executado de forma distribuída por uma rede distribuída de pares), a tecnologia de cadeias de blocos poderia revolucionar a forma como as pessoas se coordenam e se envolvem em muitas transações econômicas e interações sociais (Tapscott & Tapscott 2016). De facto, a transposição de disposições legais ou contratuais para um contrato inteligente pode dar origem a um novo conjunto de regras baseadas em códigos com uma “garantia de execução”. Estas regras são automaticamente aplicadas pela rede de blocos subjacente e serão, portanto, sempre executadas conforme planejado, independentemente da vontade das partes.
10 Um contrato inteligente pode ser implementado de forma a possibilitar que várias partes, humanos ou máquinas, interajam umas com as outras. Estas interações são mediadas por uma aplicação blockchain, controlada exclusivamente por um conjunto de regras imutáveis e incorruptíveis embutidas em seu código fonte. Como tal, contratos inteligentes aumentam a aplicabilidade da regulamentação por código, tornando possível às pessoas formalizarem acordos contratuais e transações econômicas em um conjunto de regras pré-determinadas baseadas em código, que são auto-executáveis e auto-executáveis. E na medida em que as redes baseadas em cadeias de bloqueio e os contratos inteligentes associados não dependem de nenhum servidor central, eles não podem ser fechados arbitrariamente por nenhuma parte – a não ser que estejam especificamente previstos em seu código. Isso exacerbou ainda mais o problema relacionado à rigidez e formalidade da regulamentação baseada em código, na medida em que se torna mais difícil para qualquer parte atualizar o código ou mesmo apenas para afetar a execução desse código.
11Machine Learning (ML) permite ao software adquirir conhecimento de fontes externas e aprender ou fazer coisas que não foi explicitamente programado para fazer. A disponibilidade de quantidades crescentes de dados (“grandes dados”), juntamente com os recentes avanços nas redes neurais e técnicas de mineração de dados, levou à adoção generalizada do Machine Learning em diversas plataformas online. Com o ML, torna-se de facto possível contornar algumas das limitações tradicionalmente associadas à regulação por código. Embora estas plataformas ainda sejam, na sua maioria, governadas por um conjunto de regras rígidas e formalizadas baseadas em código, o ML permite a introdução de regras baseadas em código que são inerentemente dinâmicas e adaptativas – replicando assim algumas das características das regras legais tradicionais caracterizadas pela flexibilidade e ambiguidade da linguagem natural.
12 No entanto, o uso do ML no contexto da regulação não é desprovido de qualquer desvantagem. A tomada de decisão baseada em dados já foi provada como implicitamente tendenciosa e, consequentemente, injusta (Hardt, 2014). Alegadamente “algoritmos neutros” discriminam sistematicamente grupos minoritários em suas generalizações, mostrando resultados que podem ser catalogados, por exemplo, como racistas ou sexistas (Guarino 2016).
13Além disso, se implementadas na lei, a dinâmica destas regras poderia subverter noções de universalidade (ou seja, “todos são iguais perante a lei”) e não-discriminação. Como as leis são incorporadas em um código cujas regras evoluem dinamicamente à medida que novas informações são introduzidas no sistema, pode tornar-se difícil para as pessoas não só entender, mas também questionar a legitimidade das regras que estão afetando suas vidas no dia-a-dia. E como cada vez mais dessas regras podem ser personalizadas e adaptadas ao perfil de cada usuário individual, os princípios básicos de universalidade e não discriminação que caracterizam o sistema jurídico atual podem ser perdidos para sempre.