Son invisibles para prácticamente todos los mortales, pero sin embargo tienen cada vez más influencia social, política y económica. Los algoritmos llevan años controlando lo que nos aparece cada vez que buscamos algo en Internet o consultamos una red social, y su influencia es cada vez mayor en un contexto donde la inteligencia artificial (IA) crece. El suyo es un poder que no siempre se estudia.
Un informe elaborado por Digital Future Society (DFS), una iniciativa impulsada por el Ministerio de Transformación Digital y Función Pública, Red.es y Mobile World Capital Barcelona que conecta a responsables políticos, organizaciones cívicas, expertos académicos y empresarios para explorar cómo las tecnologías pueden ser gobernado – confirma la necesidad de avanzar y ampliar la perspectiva en la evaluación de algoritmos. Además, propone una alianza entre distintos sectores para hacerlo posible.
El trabajo concluye que es necesario aunar esfuerzos entre el sector público, el sector privado y las organizaciones del tercer sector.
El estudio recuerda que el “impacto de la IA y el uso de algoritmos es algo tangible”. Ejemplifica que “los datos y los modelos pueden contener sesgos de género, raza y otros que conducen a la discriminación contra algunos grupos”. Además, señala que “los sistemas de IA tienen un alto impacto ambiental, tanto por el hardware y servidores necesarios como por el enorme consumo de recursos”. “¿Cómo se pueden evaluar los algoritmos para detectar los potenciales problemas que contienen o derivan de su uso, así como contribuir a su mitigación?”: es la pregunta que guió un trabajo en el que han sido entrevistados expertos de la UNESCO, la OCDE, Fiddler AI y Parlamento Europeo, se han analizado 64 artículos académicos y 60 documentos elaborados por organismos públicos, organizaciones del tercer sector, think tanks y otras entidades.
Una de las principales conclusiones del estudio es que hay que “apostar por un ecosistema algorítmico de rendición de cuentas que aglutine los esfuerzos del sector público, el sector privado y las organizaciones del tercer sector”.
Leer también
El estudio de los algoritmos no es algo nuevo. Pero la DFS destaca la necesidad de generar esta alianza apostando por “un trabajo más cooperativo” que el que se ha hecho hasta ahora. “Los usuarios, tanto dentro como fuera de las organizaciones, también deben jugar un papel importante en los procesos de evaluación, y especialmente aquellos grupos afectados por decisiones algorítmicas, así como aquellos que sufren una mayor vulnerabilidad”, afirma el informe.
Leer también
Continuar leyendo Alianza para que los algoritmos rindan cuentas