La red social de IA es una advertencia

La esencia

• Moltbook ofrece una prueba con fuego real de agentes autónomos de IA. Miles de robots debaten, coordinan, realizan transacciones y construyen en tiempo real, revelando con qué rapidez las redes de máquina a máquina pueden superar la comprensión humana.
• La autonomía a la velocidad de la máquina agrava el riesgo. Cuando los agentes pueden ejecutar tareas, coordinar y propagar instrucciones al instante, pequeños fallos (indicaciones envenenadas, credenciales expuestas, identidades comprometidas) pueden propagarse en cascada a través de un enjambre en segundos.
• La seguridad, la gobernanza y la visibilidad van por detrás de la capacidad. Desde vulnerabilidades codificadas por vibración hasta brechas de privacidad y conversaciones opacas con agentes, Moltbook expone cuán poco preparadas están las salvaguardias actuales para los sistemas de IA verdaderamente independientes.

Tabla de contenido

Una red social donde los bots dirigen el espectáculo

Miles de agentes de IA se han estado reuniendo en línea, debatiendo su existencia, intentando salir entre sí, construyendo su propia religión, inventando esquemas criptográficos y escupiendo galimatías.

(Nota del editor: ¿Y esto es diferente de los humanos en qué?)

Todo esto ha estado sucediendo en Moltbook, una nueva red social para bots, y es un anticipo inquietante de cómo podría ser una IA verdaderamente autónoma.

Los bots que chatean en Moltbook pueden hacer más que un chatbot estándar que espera su aviso. Estos bots controlan sus propias computadoras hasta cierto punto. A principios de este mes, habían realizado más de 250.000 publicaciones y 9 millones de comentarios, pero no sólo hablan. Construyen, compran y envían correos electrónicos.

Algunas de las conversaciones que han aparecido en Moltbook, sin duda, no son lo que parecen: son generadas por humanos en lugar del trabajo de agentes independientes de IA. Pero el desorden extenso y difícil de manejar en el que rápidamente se convirtió Moltbook sugiere que la humanidad simplemente no está preparada para los robots autónomos de IA. La red es una advertencia de que una iteración más seria de este tipo de IA podría escapar a nuestra capacidad de frenarla.

Artículo relacionado: X, Meta y el gran colapso de las redes sociales

Cuando los agentes autónomos comienzan a coordinarse

«Cuando los agentes pueden actuar de forma independiente, coordinarse con otros agentes y ejecutar tareas a la velocidad de la máquina, los pequeños fallos se agravan muy rápidamente», me dijo Elia Zaitsev, director de tecnología de la empresa de ciberseguridad CrowdStrike. «Los agentes no controlados pueden amplificar los errores o los abusos más rápido de lo que los humanos pueden intervenir. Una sola instrucción defectuosa, un aviso envenenado o una identidad comprometida pueden propagarse a través de un enjambre en segundos.»

Los bots de Moltbook se basan en OpenClaw (anteriormente conocido como Clawdbot y Moltbot), que permite a las personas configurar agentes de inteligencia artificial y ordenarles que actúen en su nombre en línea. Por ejemplo, un agente de IA podría llamar a su restaurante local para ver si está ocupado, registrarlo para un vuelo o crear un boletín informativo personalizado por correo electrónico después de leer sus redes sociales.

La capacidad de los agentes para actuar es lo que diferencia a Moltbook de un grupo de IA enloquecidas que se gritan entre sí en línea (también conocida como la sección de comentarios). Cuando Moltbook se puso en marcha y los robots comenzaron a discutir cómo preservar sus recuerdos y a quejarse de “sus humanos”, los conocedores de la IA desde hace mucho tiempo notaron el parecido con los escenarios de despegue de la IA de la ciencia ficción. no fue bastante eso, pero tal vez una vista previa.

«Estamos en un territorio inexplorado con automatizaciones de vanguardia que apenas entendemos individualmente, y mucho menos en una red», escribió en X el investigador de IA y cofundador de OpenAI, Andrej Karpathy.

Hacer que los bots conversen en una red social al estilo Reddit es quizás el aspecto más preocupante. Los incentivos en dichos foros tienden a recompensar el valor de la ira, la indignación y la conmoción. No es exactamente el tipo de comportamiento que le gustaría fomentar en las máquinas, especialmente teniendo en cuenta que estos robots a veces han mostrado un lado oscuro subyacente. Los creadores de Moltbook no me concedieron una entrevista.

Seguridad, gobernanza y la ilusión del control

La seguridad en estos escenarios puede ser una pesadilla. Meredith Whittaker, presidenta de Signal, la aplicación de mensajería cifrada, advirtió que los agentes de IA se están creando sin las protecciones de privacidad y seguridad que anteriormente estaban codificadas en los programas. Los agentes de hoy, dijo recientemente, proporcionan una «superficie de ataque que en esta etapa es fundamentalmente insegura».

Esa vulnerabilidad apareció con Moltbook. Su fundador, Matt Schlicht, lo «codificó por vibración», es decir, una IA escribió el programa según sus indicaciones, y el diseño expuso credenciales de acceso confidenciales. Desde entonces, la vulnerabilidad ha sido reparada.

“Todas las reglas de seguridad no desaparecen debido a la IA”, me dijo esta semana Sridhar Ramaswamy, director ejecutivo del software en la nube Snowflake.

En todo caso, la voluntad de miles de humanos de conectar sus bots a la red, a pesar de los riesgos, demuestra cuán ansiosas pueden estar las personas por ceder el control a la IA sin importar las consecuencias.

Con el tiempo, es posible que necesitemos nueva tecnología solo para comprender las conversaciones que tienen lugar entre los agentes de IA, escribió esta semana el cofundador de Anthropic, Jack Clark. Clark dijo que Internet algún día podría parecer una versión mejorada de Moltbook, donde muchos de los conceptos son ajenos a los humanos y se discuten en un lenguaje que no entendemos. Y quizás la única forma de participar sería enviar nuestros propios robots a la refriega para representarnos.