Manténgase informado con actualizaciones gratuitas
Simplemente regístrese en myFT Digest de inteligencia artificial, que se envía directamente a su bandeja de entrada.
El último intento de Beijing de controlar cómo la inteligencia artificial informa a los usuarios chinos de Internet se ha implementado como un chatbot entrenado en los pensamientos del presidente Xi Jinping.
El nuevo modelo de gran lenguaje del país ha estado aprendiendo de la filosofía política de su líder, conocida como “Pensamiento de Xi Jinping sobre el socialismo con características chinas para una nueva era”, así como de otra literatura oficial proporcionada por la Administración del Ciberespacio de China.
«La experiencia y la autoridad del corpus garantizan el profesionalismo del contenido generado», dijo la revista CAC en una publicación del lunes en las redes sociales sobre el nuevo LLM.
El esfuerzo por garantizar que la IA comprenda la filosofía de Xi se produce mientras los funcionarios chinos buscan equilibrar los controles draconianos del país sobre la libertad de expresión con el fomento del desarrollo de la IA y la creación de rivales como ChatGPT de Open AI.
Por ahora, el nuevo modelo se está utilizando en un centro de investigación bajo el poderoso regulador de Internet, pero eventualmente podría lanzarse para un uso más amplio, según una persona involucrada en el proyecto. El nuevo modelo puede responder preguntas, crear informes, resumir información y traducir entre chino e inglés, según la publicación.
La creación del LLM surge tras grandes esfuerzos de los funcionarios chinos para difundir las ideas de Xi sobre política, economía y cultura en una variedad de formatos.
Se han publicado más de una docena de libros en nombre de Xi y sus más vendidos suelen ocupar un lugar central en las ferias del libro del país. Las aplicaciones de noticias populares de compañías como Tencent o NetEase reservan espacios en la parte superior de las noticias de los usuarios para artículos de los medios oficiales, la mayoría de las veces protagonizados por Xi.
Los funcionarios también han exigido que los niños de escuelas de hasta 10 años estudien su filosofía política. Crearon la aplicación Study Xi Strong Nation para enseñar y evaluar sus conocimientos a los aproximadamente 100 millones de miembros del partido del país. En 2018, sus ideas fueron incorporadas a la constitución estatal.
CAC, que ha liderado el camino en la emisión de reglas para la IA generativa e introdujo un régimen de licencias, exige que los proveedores de IA generativa «encarnan valores socialistas fundamentales» y dice que el contenido generado no puede «contener ningún contenido que subvierta el poder estatal». Las empresas son responsables de su producción de IA.
Este es un desafío particular para los desarrolladores de modelos debido a los conjuntos de datos en idioma chino relativamente escasos disponibles para capacitar a sus LLM. La mayoría de los grupos también se entrenan con información en inglés, lo que introduce el potencial de la IA generativa para producir respuestas que no cumplen con las normas de habla de China.
Gigantes tecnológicos como Baidu y Alibaba se han asegurado de que sus modelos controlen estrictamente el contenido generado relacionado con Xi u otros temas potencialmente delicados. Los chatbots de IA generativa de ambos grupos suelen pedir a los usuarios que reinicien los chats cuando se les presiona sobre temas delicados.
Para ayudar a los desarrolladores a lidiar con el problema, la Asociación de Seguridad Cibernética de China, una organización sin fines de lucro alineada con CAC, publicó en diciembre la primera base de datos pública de 100 millones de entradas de “datos confiables y de alta calidad” para que los grupos los utilicen en la capacitación de modelos. El conjunto de capacitación se basa en gran medida en regulaciones gubernamentales y documentos de políticas, informes de los medios estatales y otras publicaciones oficiales, según partes revisadas por el Financial Times.
Recomendado
Uno de las docenas de documentos de texto del paquete de datos contiene 86.314 menciones a Xi Jinping. “Unámonos más estrechamente en torno al Comité Central del Partido con el camarada Xi Jinping en su núcleo”, se lee en una línea.
Debemos “asegurarnos de que en el pensamiento, la política y la acción estemos siempre en alta alineación con el Comité Central del Partido, cuyo núcleo es el Secretario General Xi Jinping”, dice otro.
Información adicional de Nian Liu en Beijing
Vídeo: IA: ¿bendición o maldición para la humanidad? | Tecnología FT
Read More: La última respuesta de China a OpenAI es ‘Chat Xi PT’