Una ola de usuarios de las redes sociales se está dando cuenta tristemente de que el Papa no es tan elegante como parecen sugerir las fotos recientes. ¿También te engañaron? (La mayoría de nosotros lo éramos.)
Las imágenes del Papa Francisco vistiendo una chaqueta blanca de gran tamaño arrasaron en Internet durante el fin de semana, y muchos en línea admitieron que pensaban que las fotos eran genuinas.
No, el sumo pontífice no está incursionando en la ropa de calle de alta costura. Las imágenes, aunque fotorrealistas, fueron generadas por inteligencia artificial (IA).
Leer más:
Desde deepfakes hasta ChatGPT, la desinformación prospera con los avances de la IA: informe
Las imágenes falsas, que se originaron a partir de una publicación del viernes en Reddit titulada «The Pope Drip», se crearon con Midjourney, un programa que genera imágenes a partir de las indicaciones de los usuarios. La herramienta es similar a DALL-E de OpenAI. Estos modelos de IA utilizan principios de aprendizaje profundo para recibir solicitudes en un lenguaje sencillo y generar imágenes originales, después de haber sido entrenados y ajustados con grandes conjuntos de datos.
Las imágenes falsas pronto se publicaron en Twitter, donde las publicaciones de personas influyentes y celebridades expusieron el globo papal a las masas. La publicación original de Reddit había sido publicada en el subreddit r/midjourney, pero sin ese contexto en Twitter, muchos fueron engañados para creer que las imágenes eran reales.
La modelo Chrissy Teigen admitió que el falso Francis la había engañado.
“Pensé que la chaqueta acolchada del Papa era real y no lo pensé dos veces. de ninguna manera voy a sobrevivir al futuro de la tecnología”.
Una cantidad preocupante de personas en sus respuestas mostró que ella estaba lejos de ser la única que le cubría los ojos.
“No solo no me di cuenta de que era falso, también vi un tweet de otra persona que decía que era IA y pensé que ÉL estaba bromeando”, respondió una persona.
Las imágenes generadas por Midjourney anteriormente se volvieron virales en Twitter cuando el fundador y periodista de Bellingcat, Eliot Higgins, publicó un hilo de imágenes falsas del arresto del expresidente estadounidense Donald Trump. Más tarde, Higgins fue expulsado de Twitter y la palabra «arrestado» ahora está prohibida como indicación de Midjourney.
Si bien estos fueron en su mayoría casos inocuos de personas que fueron engañadas por imágenes generadas por IA, está claro que los avances en la tecnología de IA están dificultando que la persona común analice los hechos de la ficción.
La facilidad de usar herramientas de generación de texto e imágenes significa que la barra de entrada nunca ha sido más baja para que los malos actores siembren desinformación.
Leer más:
El hombre que demanda a Gwyneth Paltrow toma posición en el juicio por accidente de esquí: «Estoy viviendo otra vida ahora»
Los analistas de riesgos han identificado a la IA como una de las mayores amenazas que enfrentan los humanos en la actualidad. El Informe Top Risk para 2023 llamó a estas tecnologías “armas de disrupción masiva” y advirtió que “erosionarán la confianza social, empoderarán a demagogos y autoritarios, y perturbarán negocios y mercados”.
El científico informático con sede en Montreal Yoshua Bengio, conocido como uno de los padrinos de la IA, dijo a Global News que debemos considerar cómo se puede abusar de la IA. Sugirió que los gobiernos y otros grupos podrían usar estas poderosas herramientas para controlar a las personas como “armas de persuasión”.
“¿Qué pasa con el abuso de estas poderosas tecnologías? ¿Pueden ser utilizados, por ejemplo, por gobiernos con malas intenciones para controlar a su gente, para asegurarse de que sean reelegidos? ¿Pueden usarse como armas, armas de persuasión, o incluso armas, punto, en el campo de batalla? preguntó.
“Lo que es inevitable es que el progreso científico llegue allí. Lo que no es es lo que decidimos hacer con él”.
Leer más:
ChatGPT no existiría sin los pioneros canadienses de la IA. Por qué uno teme por el futuro
Una forma en que Canadá busca abordar los daños potenciales causados por la IA es reforzar nuestro marco legal.
Si se aprueba, la legislación de privacidad propuesta, el proyecto de ley C-27 establecería la Ley de Inteligencia Artificial y Datos (AIDA), con el objetivo de garantizar el desarrollo ético y el uso de la IA en el país. El marco aún debe desarrollarse con pautas tangibles, pero AIDA crearía regulaciones a nivel nacional para las empresas que desarrollan sistemas de inteligencia artificial con miras a proteger a los canadienses del daño que representan los modelos sesgados o discriminatorios.
Si bien la ley muestra la voluntad de los políticos de garantizar que las empresas de IA de «alto impacto» no afecten negativamente la vida de la gente común, las regulaciones se enfocan principalmente en monitorear las prácticas corporativas. No se menciona la educación de los canadienses sobre cómo navegar las tecnologías disruptivas de IA en la vida diaria.
Teniendo en cuenta la confusión causada por el Papa con abrigo acolchado, ¿dónde está el próximo anuncio de servicio público al estilo House-Hippo cuando lo necesitemos?
Leer más:
ChatGPT: ¿Es algo bueno o malo? Los canadienses están divididos, sugiere una encuesta
Las politólogas canadienses Wendy H. Wong y Valérie Kindarji están pidiendo a los gobiernos canadienses que den prioridad a la alfabetización digital en la era de la IA, en un artículo de opinión.
Argumentan que el acceso a información de alta calidad es necesario para el buen funcionamiento de la democracia. Este acceso a la información puede verse amenazado por herramientas de IA que tienen el poder de distorsionar fácilmente la realidad.
“Una forma de incorporar tecnologías disruptivas es brindar a los ciudadanos el conocimiento y las herramientas que necesitan para hacer frente a estas innovaciones en su vida diaria. Es por eso que deberíamos abogar por una inversión generalizada en programas de alfabetización digital”, escribieron los autores.
“La importancia de la alfabetización digital va más allá del alcance de nuestras interacciones diarias con el entorno de información en línea. (modelos de IA) representan un grave riesgo para la democracia porque interrumpen nuestra capacidad de acceder a información de alta calidad, un pilar fundamental de la participación democrática. Derechos básicos como la libertad de expresión y reunión se ven obstaculizados cuando se distorsiona nuestra información. Necesitamos ser consumidores exigentes de información para tomar decisiones lo mejor que podamos y participar políticamente”, agregaron.
Leer más:
Jeremy Renner publica una actualización de video en la cinta de correr después de la lesión del quitanieves
La tecnología de IA mejora cada día, pero por ahora, una estrategia para discernir si una imagen de un ser humano fue generada por IA es mirar las manos y los dientes. Modelos como Midjourney y DALL-E todavía tienen dificultades para generar manos que parezcan realistas y, a menudo, pueden equivocarse en la cantidad de dientes en la boca de una persona.
La Iniciativa Ciudadana Digital del gobierno federal ya está ayudando a grupos a combatir la desinformación sobre una variedad de temas, incluida la guerra de Ucrania y el COVID-19. Pero con la proliferación de herramientas de inteligencia artificial, el público canadiense debería estar preparado para ver surgir aún más campañas de desinformación en el futuro.
© 2023 Global News, una división de Corus Entertainment Inc.