Introducción

1Pasamos cada vez más tiempo de nuestras vidas interactuando dentro de plataformas, cuya base de usuarios menoscaba la de los estados nacionales existentes. Y, sin embargo, su gobierno está muy lejos de los valores de los países democráticos. En su lugar, se rigen por software y algoritmos que regulan nuestras interacciones. Como dice Lessig, «el código es la ley», una forma de regulación en la que los actores privados pueden incrustar sus valores en los artefactos tecnológicos, limitando efectivamente nuestras acciones. En la actualidad, el sector público también utiliza el código como mecanismo regulador. Esto conlleva una serie de beneficios, sobre todo relacionados con la capacidad de automatizar la ley y aplicar normas y reglamentos a priori, es decir, antes del hecho. Sin embargo, la regulación por código también conlleva importantes limitaciones e inconvenientes que podrían crear nuevos problemas relacionados con la equidad y el debido proceso. La tecnología Blockchain ofrece muchas oportunidades nuevas de convertir la ley en código. Al transponer las disposiciones legales o contractuales a un «contrato inteligente» basado en blockchain con garantía de ejecución, estas normas son aplicadas automáticamente por la red de blockchain subyacente y, por tanto, siempre se ejecutarán según lo previsto, independientemente de la voluntad de las partes. Esto, por supuesto, genera nuevos problemas relacionados con el hecho de que ninguna parte puede afectar a la ejecución de ese código. Con la adopción generalizada del aprendizaje automático, es posible eludir algunas de las limitaciones de la regulación por código. El ML permite introducir reglas basadas en código que son inherentemente dinámicas y adaptables, replicando algunas de las características de las reglas legales tradicionales caracterizadas por la flexibilidad y ambigüedad del lenguaje natural. Sin embargo, el uso del ML en el contexto de la regulación no está exento de inconvenientes: la toma de decisiones basada en datos ha mostrado sesgos implícitos que discriminan a las minorías, y las leyes basadas en el ML pueden dañar principios tradicionales como la universalidad y la no discriminación.

I. Del código es la ley al derecho es el código

2Pasamos cada vez más tiempo de nuestras vidas interactuando dentro de plataformas, cuya base de usuarios menoscaba la de los estados nacionales existentes, por ejemplo, Facebook goza de más de 2.000 millones de usuarios, Youtube de 1.000 millones, e Instagram de 700 millones de usuarios. Y sin embargo, su gobernanza está muy lejos de los valores de los países democráticos. En su lugar, se rigen por programas informáticos y algoritmos que regulan nuestras interacciones y comunicaciones en línea a través de oscuras reglas incrustadas en el código fuente, y elaboradas por un puñado de actores privados.

3El entorno digital abre las puertas a una nueva forma de regulación -por parte de actores privados- que podrían intentar imponer sus propios valores incrustándolos en un artefacto tecnológico. Como afirma Lessig (1999), «el código es la ley»: el código es, en última instancia, la arquitectura de Internet y, como tal, es capaz de limitar las acciones de un individuo por medios tecnológicos.

4 A medida que nuestras interacciones se rigen cada vez más por el software, confiamos cada vez más en la tecnología como medio para aplicar directamente las normas. De hecho, a diferencia de las normas jurídicas tradicionales, que se limitan a estipular lo que las personas deben o no deben hacer, las normas técnicas determinan lo que las personas pueden o no pueden hacer en primer lugar. Esto elimina la necesidad de que una tercera autoridad de aplicación intervenga a posteriori para castigar a los que infringen la ley. En última instancia, los programas informáticos acaban estipulando lo que se puede o no se puede hacer en un entorno específico en línea, con más frecuencia que la ley aplicable, y posiblemente también con mucha más eficacia.

5 Un ejemplo emblemático de ello son los esquemas de gestión de derechos digitales (DRM), que transponen las disposiciones de la ley de derechos de autor a medidas tecnológicas de protección (Rosenblatt, et al., 2002), y restringen así el uso de las obras protegidas por derechos de autor (por ejemplo, limitando el número de copias posibles de una canción digital que se pueden hacer). La ventaja de esta forma de regulación por código es que, en lugar de depender de la aplicación a posteriori por parte de terceros (es decir, los tribunales y la policía), las normas se aplican ex ante, lo que hace muy difícil que la gente las infrinja en primer lugar. Además, a diferencia de las normas jurídicas tradicionales, que son intrínsecamente flexibles y ambiguas, las normas técnicas están muy formalizadas y dejan poco o ningún margen de ambigüedad, por lo que eliminan la necesidad del arbitraje judicial. 6Hoy en día, la regulación por código se está imponiendo progresivamente como un mecanismo regulador adoptado no sólo por el sector privado, sino también por el sector público. Los gobiernos y las administraciones públicas se apoyan cada vez más en algoritmos de software y herramientas tecnológicas para definir normas basadas en el código, que son ejecutadas (o aplicadas) automáticamente por la tecnología subyacente. Es el caso, por ejemplo, de la lista de exclusión aérea de Estados Unidos, que se basa en la minería de datos para realizar evaluaciones predictivas sobre posibles amenazas a la seguridad nacional (Citron 2007), o el uso de algoritmos informáticos para apoyar la toma de decisiones judiciales y determinar las penas de cárcel o las libertades condicionales (O’Neil 2016). 7Contar con herramientas tecnológicas y reglas basadas en códigos como medio para regular la sociedad conlleva una serie de beneficios, sobre todo relacionados con la capacidad de automatizar la ley y de hacer cumplir las normas y reglamentos a priori, es decir, antes del hecho. Sin embargo, la regulación por código también conlleva importantes inconvenientes que, en última instancia, podrían alterar algunos de los principios básicos del derecho.

8 Por un lado, a diferencia de las normas jurídicas tradicionales, que deben ser apreciadas por un juez y aplicadas caso por caso, las normas basadas en código están escritas en el lenguaje rígido y formalizado del código, que no se beneficia de la flexibilidad y ambigüedad del lenguaje natural. Por otra parte, la implementación arquitectónica de las plataformas en línea depende, en última instancia, de las decisiones específicas de los operadores de la plataforma y de los ingenieros de software, que buscan promover o impedir un determinado tipo de acciones. Al igual que cualquier otro artefacto tecnológico, el código no es neutral, sino intrínsecamente político: tiene importantes implicaciones sociales, en la medida en que puede apoyar ciertas estructuras políticas o facilitar ciertas acciones y comportamientos sobre otros (Winner 1980).

II. Nuevos desafíos al Derecho es Código: Blockchain & Machine Learning

9La tecnología Blockchain -la que sustenta a Bitcoin- es una tecnología emergente que viene con muchas oportunidades nuevas de convertir el derecho en código (De Filippi & Hassan, 2016). Con la llegada de los «contratos inteligentes» (es decir, el software desplegado en una red basada en blockchain, como Bitcoin, y ejecutado de forma distribuida por una red distribuida de pares), la tecnología blockchain podría revolucionar la forma en que las personas se coordinan y participan en muchas transacciones económicas e interacciones sociales (Tapscott & Tapscott 2016). En efecto, la transposición de disposiciones legales o contractuales a un contrato inteligente puede dar lugar a un nuevo conjunto de reglas basadas en códigos con «garantía de ejecución». Estas reglas son aplicadas automáticamente por la red de blockchain subyacente y, por tanto, siempre se ejecutarán según lo previsto, independientemente de la voluntad de las partes.

10Un contrato inteligente puede ser implementado de tal manera que haga posible que múltiples partes, humanos o máquinas, interactúen entre sí. Estas interacciones están mediadas por una aplicación blockchain, controlada exclusivamente por un conjunto de reglas inmutables e incorruptibles incrustadas en su código fuente. Como tales, los contratos inteligentes aumentan la aplicabilidad de la regulación por código, al hacer posible que las personas formalicen los acuerdos contractuales y las transacciones económicas en un conjunto de reglas predeterminadas basadas en el código, que son autoejecutables y autoaplicables. Y en la medida en que las redes basadas en blockchain y los contratos inteligentes asociados no dependen de ningún servidor central, no pueden ser cerrados arbitrariamente por una sola parte, a menos que esté específicamente previsto en su código. Esto agrava aún más el problema relacionado con la rigidez y la formalidad de la regulación basada en el código, en el sentido de que se hace más difícil para cualquier parte individual actualizar el código o incluso simplemente afectar a la ejecución de ese código.

11El aprendizaje automático (ML) permite al software adquirir conocimientos de fuentes externas y aprender o hacer cosas para las que no estaba explícitamente programado. La disponibilidad de cantidades crecientes de datos («big data»), junto con los recientes avances en redes neuronales y técnicas de minería de datos, ha llevado a la adopción generalizada del Machine Learning en varias plataformas online. Con el ML, de hecho, es posible sortear algunas de las limitaciones tradicionalmente asociadas a la regulación por código. Si bien estas plataformas siguen rigiéndose en su mayor parte por un conjunto de normas rígidas y formalizadas basadas en código, el ML permite introducir normas basadas en código que son inherentemente dinámicas y adaptables, replicando así algunas de las características de las normas jurídicas tradicionales caracterizadas por la flexibilidad y la ambigüedad del lenguaje natural.De hecho, en la medida en que pueden aprender de los datos que recogen o reciben, estos sistemas pueden evolucionar perfeccionando constantemente sus normas para adaptarse mejor a las circunstancias específicas a las que deben aplicarse.

12Sin embargo, el uso del ML en el contexto de la regulación no está exento de inconvenientes. Ya se ha demostrado que la toma de decisiones basada en datos está implícitamente sesgada y, en consecuencia, es injusta (Hardt, 2014). Los algoritmos supuestamente «neutrales» discriminan sistemáticamente a los grupos minoritarios en sus generalizaciones, mostrando resultados que pueden ser catalogados, por ejemplo, como racistas o sexistas (Guarino 2016).

13Además, si se implementan en la ley, la dinamicidad de estas normas podría socavar las nociones de universalidad (es decir, «todos son iguales ante la ley») y no discriminación. A medida que las leyes se incorporan a un código cuyas normas evolucionan dinámicamente a medida que se introduce nueva información en el sistema, podría resultar difícil para la gente no sólo entender, sino también cuestionar la legitimidad de las normas que afectan a sus vidas a diario. Y a medida que más y más de estas reglas puedan ser personalizadas y adaptadas al perfil de cada usuario individual, los principios básicos de universalidad y no discriminación que caracterizan al sistema legal actual podrían perderse para siempre.