Algoritmos vs.reguladores Comienza la batalla real en China

China está dando un primer paso hacia la regulación de los algoritmos. El resultado de ese experimento podría ayudar a los reguladores occidentales a comprender qué adoptar, y qué evitar, a medida que también reflexionan sobre controles más estrictos sobre los gigantes occidentales de las redes sociales.

China lanzó un amplio plan de tres años el mes pasado para regular el uso de algoritmos, convirtiéndose en un pionero potencial a medida que los gobiernos de todo el mundo intensifican la regulación de las grandes tecnologías. Según el borrador de reglas publicado en agosto, las empresas no pueden usar algoritmos que conduzcan a la adicción o al gasto excesivo. Los usuarios también deben tener derecho a optar por no participar.

Las regulaciones de base amplia, si se implementan estrictamente, podrían sacudir fundamentalmente los modelos comerciales de muchas empresas de Internet exitosas. Por ejemplo, ByteDance, el propietario de TikTok, ha tenido éxito en gran medida al recomendar contenido atractivo con la ayuda de su poderoso algoritmo.

Deberías leer:   Los piratas informáticos de SolarWinds continúan golpeando a las empresas de tecnología, dice Microsoft

Sin duda, algunos aspectos de las propuestas de China están claramente dirigidos a mantener el control del gobierno. Las pautas del organismo de control de Internet dicen que los algoritmos deben defender los valores socialistas fundamentales y promover la energía positiva. Es poco probable que las sociedades democráticas acepten tales restricciones, y es probable que reglas aún más benignas enfrenten desafíos judiciales.

Pero observar cómo funcionan las medidas de China y qué tan grande es el daño económico colateral en última instancia podría resultar útil para otros países que también están lidiando con el enorme impacto social de las empresas de Internet. La Unión Europea propuso un proyecto de ley en abril para regular los sistemas de inteligencia artificial en algunos de los llamados usos de alto riesgo como infraestructura crítica, admisiones universitarias y solicitudes de préstamos. En Estados Unidos, el Congreso llevó a cabo recientemente una audiencia en Facebook después de las investigaciones de EDL sobre el gigante de las redes sociales.

El mayor problema para regular los algoritmos es lo opacos que son. Eso se está convirtiendo en un problema mayor a medida que las máquinas toman más decisiones que aprenden procesando una gran cantidad de datos. No es fácil, a veces incluso para los creadores de algoritmos, identificar la razón exacta por la que una inteligencia artificial toma una decisión en particular. Los sesgos incrustados en los datos de entrenamiento podrían filtrarse sin saberlo en el proceso de toma de decisiones. Y los algoritmos también pueden enfocarse en algunos objetivos, como amplificar el contenido viral, sin considerar otros impactos. Además, también se actualizan continuamente, lo que dificulta aún más la regulación.

Ese es un gran desafío incluso para China, que tiene herramientas más poderosas a su disposición. Otro problema es cómo hacer que el proceso algorítmico sea más transparente y responsable, sin tomar un pincel demasiado amplio que podría sofocar toda innovación, especialmente en las empresas más pequeñas. Ese es un gran riesgo que Pekín asume al ser el pionero: puede cosechar beneficios inmediatos, como lo ve, en términos de un mayor control social y menos efectos secundarios desagradables como la adicción y el endeudamiento. Pero también puede aplastar la posible aparición de nuevos ByteDances en el proceso.

Deberías leer:   El director ejecutivo de Google, Sundar Pichai, pide medidas gubernamentales sobre ciberseguridad e innovación

Los algoritmos se han convertido en una parte integral de la vida cotidiana. Es posible que las regulaciones finalmente necesiten ponerse al día, pero cómo hacerlo sigue siendo un enigma difícil. Los inversores en empresas estadounidenses de Internet y sus detractores deberían estar observando de cerca la experiencia de China.

Escribir a Jacky Wong en [email protected]

Copyright © 2021 Dow Jones & Company, Inc. Todos los derechos reservados. 87990cbe856818d5eddac44c7b1cdeb8

Fuente: WSJ