El gobierno del Reino Unido disolvió el consejo asesor independiente de su Centro de Ética e Innovación de Datos (CDEI) sin un anuncio público en medio de un impulso más amplio para posicionar al Reino Unido como líder mundial en gobernanza de la IA.
Lanzado en junio de 2018 para impulsar un enfoque colaborativo y de múltiples partes interesadas para la gobernanza de la inteligencia artificial (IA) y otras tecnologías basadas en datos, el cometido original del consejo asesor multidisciplinario del CDEI era «anticipar las brechas en el panorama de la gobernanza, de acuerdo y establecer las mejores prácticas para guiar los usos éticos e innovadores de los datos, y asesorar al gobierno sobre la necesidad de políticas específicas o acciones regulatorias”.
Desde entonces, el centro se ha centrado en gran medida en desarrollar orientación práctica sobre cómo las organizaciones tanto del sector público como del privado pueden gestionar sus tecnologías de IA de forma ética, lo que incluye, por ejemplo, la publicación de un estándar de transparencia algorítmica para todos los organismos del sector público en noviembre de 2021 y una cartera de técnicas de aseguramiento de IA en junio de 2023.
Si bien la página web del consejo asesor señala que se cerró oficialmente el 9 de septiembre de 2023, Recorded Future News, que fue el primero en publicar la historia, informó que el gobierno actualizó la página de tal manera que no se enviaron alertas por correo electrónico a los suscritos al tema.
Hablando de forma anónima con Recorded Future, los ex miembros de la junta asesora explicaron cómo la actitud del gobierno hacia el organismo cambió con el tiempo a medida que pasó por cuatro primeros ministros y siete secretarios de estado diferentes desde que los miembros de la junta fueron nombrados por primera vez en noviembre de 2018.
«En nuestros inicios, había una pregunta sobre si nos sacarían del gobierno y nos pondrían sobre una base estatutaria, o seríamos un organismo independiente, y la suposición era que hacia ahí nos dirigíamos», dijo el funcionario, añadiendo En cambio, el CDEI quedó enteramente bajo la competencia del Departamento de Ciencia, Innovación y Tecnología (DSIT) a principios de 2023.
“No estaban interesados en lo que estábamos haciendo. Eso era parte de un malestar más amplio en el que la Oficina de IA también estaba luchando por ganar terreno con el gobierno, y sus documentos técnicos se retrasaban, se retrasaban y se retrasaban”.
El ex miembro de la junta agregó que también había muy poca voluntad política para lograr que los organismos del sector público aceptaran el trabajo del CDEI, señalando, por ejemplo, que el estándar de transparencia algorítmica publicado en noviembre de 2021 no ha sido ampliamente adoptado y no fue promovido por el gobierno en su documento técnico sobre IA de marzo de 2023 (que establece sus propuestas de gobernanza para la tecnología): “Eso realmente me sorprendió y me decepcionó bastante”.
Hablando con Computer Weekly bajo condición de anonimato, el mismo ex miembro de la junta agregó que fueron informados de la disolución de las juntas en agosto: “La razón dada fue que DSIT había decidido adoptar un enfoque más flexible para consultar a los asesores, eligiendo entre un grupo de asesores externos. personas, en lugar de tener un consejo asesor formal.
“Ciertamente había una opción para que la junta continuara. En el entorno actual, con tanto interés en la regulación y supervisión del uso de la IA y los datos, la experiencia existente en el consejo asesor podría haber contribuido mucho más”.
Sin embargo, dejaron claro que el personal del CDEI “siempre ha trabajado de manera extremadamente profesional con el consejo asesor, teniendo en cuenta sus consejos y asegurándose de que el consejo estuviera informado de los proyectos en curso”.
Neil Lawrence, profesor de aprendizaje automático en la Universidad de Cambridge y presidente interino del consejo asesor, también dijo a Recorded Future que, si bien tenía «fuertes sospechas» sobre la disolución del consejo asesor, «no hubo ninguna conversación conmigo» antes de la decisión que se está tomando.
La decisión de disolver el consejo asesor se produce antes de la Cumbre Mundial de IA del Reino Unido organizada para noviembre, y en medio de un impulso más amplio por parte del gobierno para posicionar al país como líder mundial en gobernanza de IA.
A principios de septiembre de 2023, por ejemplo, justo antes de que se cambiara silenciosamente la página web del consejo asesor, el gobierno anunció que había nombrado figuras de la industria, el mundo académico y la seguridad nacional para el consejo asesor de su rebautizado Frontier AI Taskforce (anteriormente era AI Foundation Model). grupo de trabajo).
El objetivo declarado del grupo de trabajo de £100 millones es promover la seguridad de la IA, y se centrará particularmente en evaluar los sistemas «fronterizos» que plantean riesgos importantes para la seguridad pública y la seguridad global.
Al comentar sobre cómo la disolución del consejo asesor del CDEI afectará la gobernanza de la IA en el Reino Unido en el futuro, los ex miembros del consejo asesor dijeron: “Los riesgos existenciales parecen ser el foco actual, al menos en la oficina del Primer Ministro. Se podría decir que es fácil centrarse en los riesgos «existenciales» futuros, ya que evita tener que considerar los detalles de lo que está sucediendo ahora y tomar medidas.
“Es difícil decidir qué hacer con los usos actuales de la IA, ya que implica investigar los detalles de la tecnología y cómo se integra con la toma de decisiones humana. También implica pensar en las políticas del sector público y cómo se utiliza la IA para implementarlas. Esto puede plantear cuestiones complicadas.
«Espero que el CDEI continúe y que la experiencia que han acumulado se ponga al frente y al centro de los esfuerzos en curso para identificar el potencial y los riesgos reales de la IA, y cuáles deberían ser las respuestas de gobernanza apropiadas».
En respuesta a la solicitud de comentarios de Computer Weekly, un portavoz de DSIT dijo: «El Consejo Asesor del CDEI fue designado por un período fijo y con su trabajo evolucionando para mantenerse al día con los rápidos avances en datos e inteligencia artificial, ahora estamos aprovechando un grupo más amplio de experiencia de todo el departamento más allá de una estructura de junta formal.
«Esto garantizará que una amplia gama de opiniones y conocimientos, incluidos los de ex miembros de la junta directiva, puedan continuar informando su trabajo y apoyando las prioridades de innovación e inteligencia artificial del gobierno».
El 26 de septiembre, varios ex miembros del consejo asesor –entre ellos Lawrence, Martin Hosken, Marion Oswald y Mimi Zou– publicaron un blog con reflexiones sobre su paso por el CDEI.
«Durante mi tiempo en el Consejo Asesor, CDEI ha iniciado proyectos de vanguardia líderes a nivel mundial, incluidos AI Assurance, desafíos de premios PET del Reino Unido y EE. UU., Estándar de grabación de transparencia algorítmica, Fairness Innovation Challenge, entre muchos otros», dijo Zou.
“En el futuro, no tengo ninguna duda de que CDEI seguirá siendo un actor líder en el cumplimiento de las prioridades estratégicas del Reino Unido en el uso confiable de datos e inteligencia artificial y la innovación responsable. Espero apoyar esta importante misión durante muchos años más”.
El propio CDEI dijo: “El Consejo Asesor del CDEI ha desempeñado un papel importante ayudándonos a cumplir esta agenda crucial. Su experiencia y conocimiento han sido invaluables para ayudar a establecer la dirección y cumplir con nuestros programas de trabajo en torno al acceso responsable a los datos, la garantía de la IA y la transparencia algorítmica.
«Como los mandatos de la junta ya han finalizado, nos gustaría aprovechar esta oportunidad para agradecer a la junta por apoyar algunos de nuestros proyectos clave durante su tiempo».
Como reflejo del interés generalizado en la regulación y gobernanza de la IA, el año pasado se lanzaron una serie de investigaciones parlamentarias para investigar diversos aspectos de la tecnología.
Esto incluye una investigación sobre la gobernanza de la IA lanzada en octubre de 2022; una investigación sobre el sistema de armas autónomo iniciada en enero de 2023; otro sobre IA generativa lanzado en julio de 2023; y otro más sobre grandes modelos de lenguaje lanzado en septiembre de 2023.
Una investigación de los Lores sobre el uso de inteligencia artificial y tecnologías algorítmicas por parte de la policía del Reino Unido concluyó en marzo de 2022 que la tecnología está siendo implementada por organismos encargados de hacer cumplir la ley sin un examen exhaustivo de su eficacia o resultados, y que los responsables de esos despliegues son esencialmente » inventándolo sobre la marcha”.