El proceso electoral 2024 ya está en marcha y los riesgos que vienen para la autoridad electoral son muchos y variados, pero destaca uno que podría resultar disruptivo por su complejidad e innovación: el uso de la Inteligencia Artificial (IA).
Si bien esta tecnología ha traído impactos positivos, también es innegable que su uso negativo ha comenzado a generar Preocupación entre distintos sectores sociales.
Uno de los ámbitos en los que ya se ha empezado a utilizar y que Se espera que gane un impulso generalizado en las campañas políticas.que desde este mes hasta mayo de 2024 será nuestro pan de cada día.
La doctora en derecho de la UNAM, Amada María Arley Orduña, dijo que el uso de estas herramientas de IA en audios y vídeos, donde aparentemente resulta complejo distinguir una voz humana y una voz clonada crea un impacto directo en la percepción del votante, su razonamiento y finalmente su juicio y toma de decisiones.
En artículo publicado en Revista Legal, el experto destacó que en el caso de las elecciones anticipadas de coordinadores de las campañas electorales presidenciales en México para el año 2024, la aplicación de IA generativa por parte de los seguidores de Xóchitl Gálvez, del Frente Amplio por México con la creación de videos con contenido de imágenes y voz de la candidata, contenidos que buscan ser congruentes con la narrativa que la candidata diseña sobre sí misma.
El caso Ebrard y su voz con la IA
El especialista se refirió al caso donde el 14 de septiembre de 2023, un audio en el que aparece Marcelo Ebrard, excanciller y excandidato de Morena a la Presidencia donde expresó: «¡A ver, esto no tiene vuelta atrás! ¡Lo que nos hicieron a nosotros, no es sólo a nosotros, es al país! Por eso tenemos que tomar una decisión, que realmente vaya con los preceptos por los cuales Estábamos en Morena. Ya conocieron Zacatecas, no fue así. Vayan acercándose a la gente de Xóchitl. Ella trae esa misma visión que nosotros. De todas maneras ya estamos en conversaciones”.
Ante la revelación de este audio, Daniel Millán, uno de los portavoces del excanciller, declaró en X -antes Twitter- que “la grabación Fue generada con Inteligencia Artificial y fue parte de una “guerra sucia”.
«Pero, para los estudiosos del derecho y la inteligencia artificial, este caso es de suma relevancia y también para la sociedad. ¿Cuál es la verdad? ¿Cómo se puede saber si realmente se trata de audio generado a través de IA generativa?» experto y destaca que Actualmente, no existe ninguna herramienta de IA que ayude a distinguir una voz humana de una voz clonada
Los desafíos para la autoridad electoral
Otro riesgo de la IA Es la creación de imágenes, vídeos o fotografías falsas a partir de textos.
En este sentido, el profesor-investigador de la Facultad de Ingeniería de la UNAM, Jesús Savage Carmona, destacó que en el También se pueden ordenar nuevas herramientas para generar videos. o imágenes falsas o fotografías alteradas.
“Existen otras redes neuronales generativas como la que se llama Dalí, que a través de texto le podemos decir que genere este video o imágenes falsas; Podremos decir: oye, generame un vídeo de un político besando a otro político. Entonces imagínense que esto va a pasar en las elecciones del próximo año con videos e imágenes falsas”, advirtió.
De esta manera y en presencia de campañas políticas de cara a las elecciones de 2024Amada María Arley Orduña dijo que los casos de uso de Inteligencia Artificial en el ámbito político son sólo una muestra de lo que podría enfrentar la autoridad electoral en los próximos meses, y lo que deberá investigar en relación a la verdad de cada asunto.
«Si mantengo mi hipótesis de que la autoridad electoral tiene que desarrollar una oficina para detectar y analizar este tipo de casos, me parece que el grupo de trabajo debería estar integrado por un equipo transdisciplinario de expertos en análisis de audio y video; personal que hacer seguimiento de campañas en redes sociales y abogados en materia electoral”, indicó.
El proceso electoral de 2024 ya está en marcha y Los riesgos que vienen para la autoridad electoral son muchosespecialmente de cara al uso de la Inteligencia Artificial (IA).