En un artículo de política publicado el miércoles, el ex CEO de Google, Eric Schmidt, el CEO de AI de Scale, Alexandr Wang, y el Centro para el Director de Seguridad de AI, Dan Hendrycks, dijeron que Estados Unidos no debería perseguir un impulso al estilo del proyecto de Manhattan para desarrollar sistemas de IA con inteligencia «sobrehumana», también conocida como AGI.
El documento, titulado «Estrategia de superinteligencia», afirma que una oferta agresiva por parte de los Estados Unidos para controlar exclusivamente los sistemas de IA superinteligentes podría provocar represalias feroces de China, potencialmente en forma de un ataque cibernético, que podría desestabilizar las relaciones internacionales.
«[A] Proyecto de Manhattan [for AGI] Asume que los rivales adquirirán un desequilibrio duradero u omnicida en lugar de moverse para evitarlo ”, escriben los coautores. «Lo que comienza como un impulso para una superpena y el control global corre el riesgo de provocar contramedidas hostiles y tensiones crecientes, socavando así la estabilidad que la estrategia pretende asegurar».
En coautoría de tres figuras muy influyentes en la industria de la IA de Estados Unidos, el documento se produce solo unos meses después de que una Comisión del Congreso de los Estados Unidos propuso un esfuerzo de ‘Proyecto Manhattan’ para financiar el desarrollo AGI, modelado después del programa de bombas atómicas de Estados Unidos en la década de 1940. El Secretario de Energía de los Estados Unidos, Chris Wright, dijo recientemente que Estados Unidos está en el «comienzo de un nuevo proyecto de Manhattan» en la IA mientras está parado frente a un sitio de supercomputador junto con el cofundador de Operai Greg Brockman.
El documento de estrategia de superinteligencia desafía la idea, defendida por varios líderes de políticas e industrias estadounidenses en los últimos meses, que un programa respaldado por el gobierno que persigue a AGI es la mejor manera de competir con China.
En opinión de Schmidt, Wang y Hendrycks, Estados Unidos está en un enfrentamiento AGI que no es diferente a la destrucción mutuamente asegurada. De la misma manera que los poderes globales no buscan monopolios sobre las armas nucleares, lo que podría desencadenar un ataque preventivo de un adversario, Schmidt y sus coautores argumentan que Estados Unidos debería ser cauteloso acerca de competir hacia la dominación de sistemas de IA extremadamente poderosos.
Si bien comparar los sistemas de IA con las armas nucleares puede sonar extrema, los líderes mundiales ya consideran que la IA es una ventaja militar superior. El Pentágono ya dice que AI está ayudando a acelerar la cadena de matar de los militares.
Schmidt et al. Introducir un concepto que llaman mal funcionamiento de IA asegurada mutua (MAIM), en el que los gobiernos podrían desactivar proactivamente proyectos de IA amenazantes en lugar de esperar a que los adversarios armen a AGI.
Schmidt, Wang y Hendrycks proponen que Estados Unidos cambie su enfoque de «ganar la carrera a la superinteligencia» a los métodos de desarrollo que disuadir a otros países de crear una IA superintelligente. Los coautores argumentan que el gobierno debería «expandirse [its] El Arsenal de CiberAtacks para deshabilitar los proyectos de IA amenazantes «controlado por otras naciones, así como limitar el acceso de los adversarios a chips de IA avanzados y modelos de código abierto.
Los coautores identifican una dicotomía que se ha desarrollado en el mundo de las políticas de IA. Están los «doomers», que creen que los resultados catastróficos del desarrollo de la inteligencia artificial son una conclusión inevitable y abogan por los países que desaceleran el progreso de la IA. Por otro lado, están las «avestruces», que creen que las naciones deberían acelerar el desarrollo de la IA y esencialmente solo espero que todo funcione.
El documento propone una tercera forma: un enfoque medido para desarrollar AGI que priorice estrategias defensivas.
Esa estrategia es particularmente notable proveniente de Schmidt, quien previamente ha expresado la necesidad de que Estados Unidos compite agresivamente con China en el desarrollo de sistemas de IA avanzados. Hace solo unos meses, Schmidt lanzó un artículo de opinión diciendo que Deepseek marcó un punto de inflexión en la carrera de IA de Estados Unidos con China.
La Administración Trump parece estar a punto de avanzar en el desarrollo de la IA de Estados Unidos. Sin embargo, como señalan los coautores, las decisiones de Estados Unidos sobre AGI no existen en el vacío.
Mientras el mundo observa a Estados Unidos empujar el límite de la IA, Schmidt y sus coautores sugieren que puede ser más sabio adoptar un enfoque defensivo.
Continuar leyendo: Eric Schmidt argumenta en contra de un ‘proyecto de Manhattan para AGI’
