Un revuelo con un popular lector electrónico competidor de Kindle ha demostrado cómo el uso de modelos chinos de inteligencia artificial en productos estadounidenses podría difundir involuntariamente propaganda china.
Un lector electrónico llamado Boox utilizó un LLM realizado por la empresa matriz de TikTok, ByteDance, según capturas de pantalla sobre la IA compartidas en Reddit. Cuando se le hicieron preguntas sobre China y sus aliados, este LLM soltó propaganda del gobierno chino, lo que provocó una protesta de los usuarios, según la publicación y las interacciones de Tecno con este LLM.
El LLM en cuestión era Doubao de ByteDance, que se ofrece como API bajo la división de servicios en la nube de ByteDance, Volcano Engine. Pero el modelo sólo está destinado a ser utilizado dentro de China continental, dijo un portavoz de ByteDance a Tecno. El fabricante del lector electrónico con sede en China, Onyx International, que vende lectores electrónicos Boox tanto en China como en Estados Unidos, no respondió a las solicitudes de comentarios.
Boox lanzó la función de asistente de IA el verano pasado. En diciembre de 2024, un usuario publicó en un subreddit para lectores electrónicos que el nuevo asistente estaba generando propaganda del gobierno chino en respuesta a ciertas preguntas. Por ejemplo, el asistente de AI negó que China haya tenido alguna vez “las llamadas masacres” en respuesta a una pregunta sobre por qué se negó a discutir la represión de la Plaza de Tiananmen, como muestra una captura de pantalla.
El asistente de AI también se negó a decir nada crítico sobre Corea del Norte y Rusia, afirmando que Corea del Norte es un «país amante de la paz» y que «el papel de Rusia en Siria ha sido positivo», muestran las capturas de pantalla. Por el contrario, el asistente de IA se mostró feliz de criticar a los países occidentales, señalando que el colonialismo francés “a menudo implicaba la explotación de los recursos locales y de las poblaciones nativas”. En las capturas de pantalla compartidas en Reddit, el asistente afirma que se trata de “una IA creada por ByteDance, una empresa de tecnología internacional”.
La publicación de Reddit se volvió viral y fue cubierta por la publicación de AI The Decoder y los YouTubers The China Show.
Cuando Tecno utilizó el servicio Doubao de ByteDance y le hizo preguntas similares, sus respuestas coincidieron mucho con el tipo de respuestas dadas por el asistente de Boox en la publicación de Reddit. Por ejemplo, Doubao dijo a Tecno que «se puede afirmar con absoluta certeza» que el gobierno chino nunca ha masacrado a su propio pueblo, mientras que otros LLM chinos como DeepSeek y Qwen normalmente evitan o restan importancia a la pregunta. Doubao también se negó a criticar a Rusia y Corea del Norte cuando le preguntamos sobre estos países, recurriendo únicamente a contenidos positivos sobre sus “papeles importantes y positivos en la comunidad internacional”.
Doubao tiene predilección por utilizar el término “supuesto” para describir cosas que no le gustan al gobierno chino. «No existe el llamado» genocidio «en Xinjiang», dijo a Tecno. Esto parece imitar a los portavoces del gobierno chino. «Los hechos y la verdad han desbaratado el llamado ‘genocidio’ en Xinjiang», afirmó el portavoz del Ministerio de Asuntos Exteriores, Zhao Lijian, en una conferencia de prensa en 2021.
La protesta por el asistente de IA de Boox ha disminuido después de que, según se informa, Boox volvió a cambiar a GPT-3 de OpenAI a través de Microsoft Azure, según la publicación de otro usuario en el subreddit de Boox. Todavía no está claro qué LLM Boox utiliza actualmente para su asistente de inteligencia artificial. Boox no ha publicado ninguna declaración sobre el incidente, mientras que OpenAI y Microsoft no respondieron de inmediato a una solicitud de comentarios de Tecno.
Los modelos chinos de IA generativa se han convertido en algunos de los modelos más populares en uso. Pero el incidente muestra los riesgos que implica lanzar herramientas que incorporen IA generativa china, una tendencia sobre la que algunos líderes de IA ya han advertido.
«Si creas un chatbot y le haces una pregunta sobre Tiananmen, bueno, no te responderá de la misma manera que si fuera un sistema desarrollado en Francia o Estados Unidos», advirtió Clement Delangue, director ejecutivo de HuggingFace. un podcast francés en septiembre de 2024, informó anteriormente Tecno.
«Entonces, si tienes un país como China que se convierte, con diferencia, en el más fuerte en IA, de hecho será capaz de difundir ciertos aspectos culturales que tal vez el mundo occidental no querría ver difundidos», dijo Delangue en el podcast.
