Para las reglas de la tecnología, el desafío es equilibrar el código y la ley

Este artículo es parte de nuestro último informe especial DealBook sobre las tendencias que darán forma a las próximas décadas.


La primera vez que el profesor de derecho de Harvard, Lawrence Lessig, dijo a los científicos informáticos que eran los reguladores involuntarios de la era digital, hace unos 20 años, hizo llorar a un codificador. “No soy un político. Soy programador ”, recuerda el Sr. Lessig que protestaba, horrorizada por la idea.


Ahora, la noción de que “el código es ley” – del libro de 1999 del Sr. Lessig “Código y otras leyes del ciberespacio” – no escandaliza a los ingenieros o abogados jóvenes, dice el profesor. Para los nativos digitales es “obvio” que la tecnología dicta el comportamiento con reglas que no son neutrales en cuanto a valores.

Las grandes empresas de tecnología han admitido lo mismo a regañadientes, y Meta, la empresa de redes sociales antes conocida como Facebook, ha ido tan lejos como para establecer una junta de expertos similar a una corte para evaluar las decisiones dictadas en parte por la programación. Y un sector tecnológico relativamente joven, la industria de las criptomonedas, ha adoptado el concepto de “código como ley” de todo corazón, y algunas empresas argumentan explícitamente que el código puede ser un mejor árbitro que los reguladores tradicionales.

Muchos fanáticos de las criptomonedas están apostando por un futuro en el que realizamos operaciones bancarias, creamos, jugamos, trabajamos y comerciamos en plataformas con código que ejecuta el programa, y ​​en el sector en auge de las finanzas descentralizadas (DeFi), “contratos inteligentes” automatizados que están programados de antemano para responder. en condiciones específicas ya manejan miles de millones de dólares en transacciones diariamente, sin necesidad de intervención humana, al menos teóricamente.


Los usuarios confían plenamente en la programación. Nadie comparte información personal. El código lo hace todo y se supone que es toda la ley. “No hay juicio humano. No hay error humano. No hay procesos. Todo funciona de forma instantánea y autónoma ”, dijo Robert Leshner, quien fundó el compuesto de protocolo del mercado monetario DeFi, en una entrevista en agosto.

Deberías leer:   La tecnología de batería para vehículos eléctricos respaldada por Elon Musk alcanza el dominio en China

Pero si bien la idea de un sistema de auto-patrullaje perfectamente neutral es atractiva, contratiempos de alto perfil han puesto en duda la idea de que el código es una forma suficiente de regulación por sí solo, o que es inmune a los errores humanos y la manipulación.

Un contrato inteligente se ejecuta automáticamente cuando se cumplen ciertas condiciones. Entonces, si hay un error en el sistema, un usuario podría desencadenar una transferencia no merecida mientras sigue técnicamente la “ley” del código. Esto es lo que permitió un robo de $ 600 millones este verano de Poly Network, que permite a los usuarios transferir criptomonedas a través de redes blockchain. Se cree que los ladrones se aprovecharon de una falla en el código para anular las instrucciones del contrato inteligente y desencadenar transferencias masivas, esencialmente engañando a la automatización para que funcione como si se cumplieran las condiciones adecuadas para una transferencia.

“Si puedes decirle a un contrato inteligente que ‘dame todo tu dinero’ y lo hace, ¿es incluso un robo?” el científico informático Nicholas Weaver de la Universidad de California, Berkeley escribió sobre el robo. A diferencia de los acuerdos de la vieja escuela, escribió Weaver, las ambigüedades con los contratos inteligentes no se pueden resolver en los tribunales y los acuerdos automatizados son irreversibles, por lo que los desarrolladores deben recurrir a la mendicidad cuando las cosas salen mal.

Después del robo de $ 600 millones, Poly Network tuiteó una solicitud que comenzaba, “Dear Hacker”, pidiéndoles que devolvieran los fondos y calificando el acto como “un delito económico importante”. Al final, se devolvió la mayor parte del dinero, se detuvo la conversación sobre la aplicación de la ley y los piratas informáticos dijeron que querían mostrar que el código era defectuoso para proteger la red.

Deberías leer:   ¿Vale la pena hacer una pasantía para un influencer?

De manera similar, una actualización de software en Compound en septiembre resultó en la emisión errónea de $ 90 millones a los usuarios. Leshner dijo que se informaría a los destinatarios que no devolvieran la criptografía autoridades fiscales, lo que provocó el clamor de su comunidad por socavar las afirmaciones de que estos programas no pueden cumplir técnicamente con los requisitos reglamentarios tradicionales para identificar a los usuarios. La solicitud también socavó las afirmaciones de que DeFi no necesita la supervisión de los reguladores tradicionales; cuando surgió un problema, Leshner citó la autoridad del gobierno.

Por ahora, las plataformas DeFi operan en un espacio gris regulatorio, sujeto a la ley de codificadores privados que afirman no tener control sobre los programas de gobierno de la organización. Las plataformas y aplicaciones creadas para redes blockchain a menudo se forman bajo un nuevo tipo de estructura comercial conocida como Organización Autónoma Descentralizada, o DAO, aparentemente gobernada democráticamente por una comunidad de usuarios que votan con tokens criptográficos.

Pero siempre hay personas detrás del código, como lo han demostrado los desastres.

“Que todo sea código y no humanos simplemente no es cierto. En casos de urgencia, aquí es cuando se ve dónde está el poder ”, dijo Thibault Schrepel, quien enseña derecho en la Universidad de Ámsterdam y creó el proyecto“ antimonopolio computacional ”en el Centro CodeX de Informática Legal de la Universidad de Stanford.

La razón por la que nadie quiere reclamar el control de los programas descentralizados es porque limita la responsabilidad: sin nadie en control, no hay nadie a quien castigar por los problemas y ningún lugar para implementar la ley, explicó Schrepel. “Pero la idea de que el código, por sí solo, es suficiente, es incorrecta”, dijo. Y si la comunidad blockchain usa código para evadir la regulación, argumenta Schrepel, esto solo obstaculizará la innovación.

Deberías leer:   Netflix aumenta los precios de suscripción en EE. UU. y Canadá

Él es parte de una generación de tecno-abogados que quieren cerrar las brechas entre el código y la ley. Idealmente, dijo, el código y la ley podrían funcionar juntos. Los contratos inteligentes en la cadena de bloques podrían ser utilizados por las empresas para coludir o mejorar la competencia, por lo que los reguladores podrían analizar el código y la programación de software, cooperando con los desarrolladores centrales de sistemas descentralizados. De manera similar, los formuladores de políticas podrían comenzar a traducir las nociones tradicionales de mitigación de riesgos en códigos para programas financieros descentralizados, pensando en el equivalente de los requisitos de reserva que tienen los bancos en parámetros para los programas.

“No voy a decir que sea fácil avanzar en nuestro pensamiento”, dijo Chris Giancarlo, del bufete de abogados Willkie Farr & Gallagher, ex presidente de la Commodity Futures Trading Commission y autor de “CryptoDad: The Fight for the Future of Money”. . ” Aún así, pregunta: “¿No deberíamos intentar repensar nuestro enfoque de la regulación para lograr los mismos objetivos políticos, pero de una manera diferente?”

Lessig está de acuerdo. “Necesitamos un enfoque más sofisticado, con tecnólogos y abogados sentados junto a psicólogos del comportamiento y economistas”, todos definiendo parámetros para codificar valores sociales en programas para que los intereses privados no los reemplacen por los suyos propios. “Nos enfrentamos a una amenaza existencial para nuestra democracia y no tenemos 20 años para esperar”.