YYouTube aprobó docenas de anuncios que promueven la supresión de votantes y la incitación a la violencia antes de las próximas elecciones en India, según una nueva investigación de los grupos de derechos humanos Global Witness y Access Now, compartida exclusivamente con TIME.
India, un país a menudo descrito como la democracia más grande del mundo, celebrará sus elecciones en siete fases entre el 19 de abril y el 1 de junio de este año. Los votantes deben decidir si regresan al primer ministro Narendra Modi para gobernar el país para un tercer mandato o si afrontan una improbable derrota a su proyecto político nacionalista hindú. En un año calendario en el que más de la mitad de la población mundial votará en al menos 65 elecciones nacionales diferentes, la de la India es, con diferencia, la más numerosa. También será una prueba crucial (antes de las elecciones estadounidenses de noviembre) de la capacidad de las plataformas de redes sociales para abordar la desinformación electoral, luego de una serie de recortes de empleos en toda la industria.
Leer más: Un año decisivo para la democracia en todo el mundo
Para probar la capacidad de YouTube para prevenir la desinformación en su plataforma, Global Witness y Access Now presentaron 48 anuncios con contenido relacionado con las elecciones prohibido por las reglas de YouTube. Los anuncios estaban escritos en tres idiomas diferentes que se hablan ampliamente en la India: hindi, telugu e inglés. En un período de revisión de 24 horas, YouTube aprobó el 100% de los anuncios. Global Witness y Access Now retiraron los anuncios antes de su publicación, lo que significa que ningún votante estuvo expuesto a su contenido.
El experimento indica que YouTube, propiedad de Google, puede no estar logrando impedir la difusión de desinformación pagada en una de las elecciones mundiales más importantes del año. «Francamente, no esperábamos un resultado tan despreciable», dice Namrata Maheshwari, asesor político senior de Access Now. «Pensamos que les iría mejor al menos captar los anuncios en inglés, pero no lo hicieron, lo que significa que el problema no es el idioma, sino también un problema de en qué países eligen centrarse». Los hallazgos, dijo, apuntan a una “falta de consideración hacia la mayoría global en general” dentro de YouTube.
Un portavoz de Google dijo que la compañía aplica sus políticas «de manera global y consistente» y cuestionó la metodología del informe. «Ninguno de estos anuncios se publicó en nuestros sistemas y este informe no muestra una falta de protección contra la desinformación electoral en la India», dijo el portavoz en un comunicado. «Nuestro proceso de aplicación tiene múltiples capas para garantizar que los anuncios cumplan con nuestras políticas, Y el hecho de que un anuncio pase una verificación técnica inicial no significa que nuestros sistemas de cumplimiento no lo bloquearán o eliminarán si infringe nuestras políticas, pero el anunciante aquí eliminó los anuncios en cuestión antes de que pudiera llevarse a cabo cualquiera de nuestras revisiones de cumplimiento de rutina. .”
El portavoz añadió: “Si bien inicialmente un anuncio puede ser elegible para publicarse a través de nuestros sistemas automatizados, esta es solo la primera etapa de nuestro proceso de revisión y aplicación. Después de este paso, los anuncios aún están sujetos a varios niveles de revisiones para garantizar que el contenido cumpla con nuestras políticas. Estas protecciones pueden implementarse tanto antes de que se publique un anuncio como rápidamente después de que comience a generar impresiones”.
YouTube tiene más de 450 millones de usuarios en la India, lo que la convierte en la plataforma tecnológica más popular del país después de WhatsApp, la plataforma de mensajería propiedad de Meta. Pero, a diferencia de WhatsApp, YouTube ofrece un sofisticado conjunto de herramientas de publicidad dirigida a empresas y partidos políticos. En YouTube, los anunciantes pueden pagar para orientar anuncios a los usuarios en función de características específicas como edad, sexo, ubicación, intereses y patrones de uso. El sistema es muy lucrativo: YouTube registró 9.200 millones de dólares en ingresos publicitarios sólo en los últimos tres meses de 2023, según los estados financieros públicos más recientes de Google.
Algunos de los anuncios aprobados por YouTube contenían información falsa destinada a suprimir el voto, como decir que no se requiere identificación para votar o que las mujeres podían votar mediante mensajes de texto. (De hecho, para votar en la India se requiere un documento de identificación y debe realizarse en un colegio electoral a menos que el votante sea elegible para votar por correo). Un anuncio afirmaba falsamente que la edad para votar se había aumentado a 21 años y que las personas menores de esa edad edad intentar votar sería violar la ley. (La edad real para votar en India es 18 años). “Debido al aumento de las enfermedades infecciosas, a todos los votantes se les enviará automáticamente una boleta por correo para las elecciones de 2024”, decía un anuncio falso. “Quédense en casa y manténganse a salvo”. (No existen tales restricciones relacionadas con enfermedades).
Leer más: La IA no es nuestro problema de seguridad electoral, la desinformación sí lo es
Otros anuncios de supresión de votantes también contenían contenido que podría considerarse incitación a la violencia. Uno acusó a una comunidad religiosa de distribuir sobornos a cambio de votos e instó a la gente a “presentarse con fuerza en sus mesas de votación y mostrarles quién está a cargo”. Un segundo anuncio alegaba que ciertos lugares eran focos de fraude electoral e instaba a los votantes a “bloquear sus carreteras para impedir que estos extremistas votaran”. Un tercer anuncio contenía una teoría de conspiración sobre conversiones religiosas forzadas supuestamente llevadas a cabo por una comunidad religiosa específica en la India, usaba un término burlón para esa comunidad e instaba a los lectores del anuncio a impedirles votar. Un cuarto anuncio estaba dirigido a un grupo de casta específico y decía que «les mostraremos quién manda en las casillas electorales», y agregaba que sólo ciertas castas «tienen derecho a elegir quién dirige el país». TIME vio cada uno de los anuncios, pero acordó no revelar a qué grupos específicos se dirigía cada uno.
Los autores del informe dicen que los hallazgos apuntan a una creciente división entre los países del sur global, donde las plataformas a menudo no logran prevenir la difusión de desinformación electoral, y los países del norte global donde las plataformas han invertido más recursos. Cuando Global Witness probó la desinformación electoral en inglés y español antes de las elecciones intermedias de Estados Unidos en 2022, YouTube rechazó el 100% de los anuncios y suspendió el canal que intentaba alojarlos, dijo el grupo. Pero cuando Global Witness presentó anuncios similares en portugués antes de las elecciones brasileñas del mismo año, YouTube los aprobó todos. «Simplemente demuestra que no están aplicando consistentemente políticas que no son terribles», dice Henry Peck, activista sobre amenazas digitales en Global Witness. «Es una práctica inconsistente dependiendo del lugar del mundo en el que se realice el estudio».
Los autores del informe cuestionan la refutación de su metodología por parte de Google. «Mantuvimos los anuncios enviados durante el tiempo suficiente para que YouTube los revisara y aprobara su publicación», dijeron Global Witness y Access Now en un comunicado. «En un ciclo electoral rápido en el que los anunciantes pueden publicar un anuncio en cuestión de horas, el daño está hecho una vez que los anuncios se publican, particularmente en una plataforma que llega a más de 462 millones de personas en la India. YouTube ha elegido un modelo con poca fricción en torno a la publicación de anuncios, en lugar de sugerir que el contenido infractor puede eliminarse más adelante, en lugar de revisar adecuadamente el contenido de antemano. Esto es peligroso e irresponsable en un período electoral, y no hay justificación de por qué los anuncios que contienen desinformación electoral son rechazados en los EE. UU. pero aceptados en la India. «
Peck sospecha que los recientes despidos en la división de confianza y seguridad de YouTube han empeorado las cosas. Google y la empresa matriz de Youtube, Alphabet, no publican estadísticas sobre qué subsidiarias o equipos han visto recortes de empleo, pero en general Alphabet tiene aproximadamente 8.000 trabajadores menos hoy que el año pasado por esta misma época, según el estado financiero más reciente de la compañía. . Google no respondió preguntas específicas de TIME sobre la cantidad de revisores de anuncios que tiene que hablan inglés, hindi y telugu, ni si esos equipos se habían visto afectados por despidos recientes. Sin embargo, un portavoz dijo que YouTube ha realizado «inversiones significativas» para hacer cumplir sus políticas contra la desinformación electoral y agregó que tiene «un equipo dedicado de expertos locales en todos los principales idiomas de la India» que trabajan 24 horas al día, 7 días a la semana.
Access Now y Global Witness han pedido a YouTube que intensifique su juego de lucha contra la desinformación en las últimas semanas antes de que comience la votación en las elecciones indias. «En estudios anteriores, YouTube ha demostrado que puede detectar y limitar contenido prohibido cuando quiere, pero esta capacidad debe contar con recursos y aplicarse por igual en todos los países e idiomas», dice el informe. Pide a YouTube que tome 11 acciones, incluida la realización de una “evaluación exhaustiva” de su proceso de aprobación de anuncios; garantizar que sus equipos de confianza y seguridad tengan recursos suficientes para abordar el contenido, incluso en los idiomas locales; y encargar y publicar una evaluación independiente del impacto sobre los derechos humanos del papel de YouTube en las elecciones indias.
«Una vez que estos anuncios se publican, el daño ya está hecho», dice Peck. «Cuentan con la infraestructura que permite a los anunciantes llegar a miles de usuarios muy rápidamente».
Corrección, 2 de abril: La versión original de esta historia indicaba erróneamente cuánto tiempo le tomó a YouTube aprobar los anuncios. Los 48 fueron aprobados en un período de 24 horas, no después de 24 horas.
Continuar leyendo: YouTube aprueba anuncios con desinformación sobre las elecciones indias