Reciba actualizaciones gratuitas de inteligencia artificial
Le enviaremos un correo electrónico myFT Daily Digest con las últimas noticias sobre inteligencia artificial todas las mañanas.
¿Cuáles son los riesgos que plantea la IA?
La inteligencia artificial no es nueva, y tampoco lo es la ansiedad por su poder. Han pasado más de 25 años desde que la supercomputadora Deep Blue de IBM venció al gran maestro de ajedrez Garry Kasparov, y la sofisticación y las capacidades de la IA han aumentado desde entonces.
Pero los avances recientes en IA han aumentado la alarma entre los tecnólogos y han impulsado a los reguladores de todo el mundo a la acción. Temen que la IA pueda eliminar una gran cantidad de empleos y remodelar la sociedad si continúa desarrollándose en su trayectoria actual.
El aumento del interés y los temores sobre la tecnología se remonta al lanzamiento de ChatGPT por parte de OpenAI en noviembre del año pasado. En dos meses, 100 millones de personas usaban el chatbot, la adopción más rápida de una nueva aplicación para el consumidor en la historia.
El notable poder de ChatGPT provocó alegría y asombro entre los primeros usuarios, pero también aprensión. El chatbot representó un gran avance en inteligencia y exhibió cualidades claramente humanas: creatividad, habilidades de razonamiento e incluso sentido del humor.
Recomendado
Su lanzamiento supuso, por tanto, un paso significativo hacia la inteligencia artificial general: un sistema informático capaz de realizar cualquier tarea humana y generar nuevo conocimiento científico.
El lanzamiento de ChatGPT también provocó una carrera armamentista, impulsada por decenas de miles de millones de dólares de inversión de grandes empresas tecnológicas y capitalistas de riesgo, entre un puñado de empresas que aspiraban a construir poderosos chatbots entrenados en grandes modelos de lenguaje.
Los principales competidores, incluido el jefe de OpenAI, Sam Altman, y el propietario de Twitter, Elon Musk, caminan por la cuerda floja. Argumentan que las ganancias de una computadora superinteligente expandirán dramáticamente la suma del conocimiento humano y ayudarán a la sociedad a resolver sus problemas más perversos.
Pero, incluso cuando invierten enormes recursos para ganar esa carrera, advierten que existe un riesgo marginal de que la IA pueda destruir la vida humana por completo.
¿Cuál es el peor de los casos?
A algunos expertos les preocupa que la IA no regulada ni controlada pueda, en última instancia, representar una amenaza para la existencia humana.
Hay varias formas de que se desarrolle el escenario del fin del mundo. Un temor común es que una inteligencia general artificial que sea capaz de aprender por sí misma suplantaría rápidamente a la inteligencia humana, desarrollándose en ciclos cada vez más rápidos hasta convertirse en «superinteligencia». Eso podría presagiar la redundancia, o extinción, de la raza humana.
El llamado escenario «Terminator» es familiar de la ciencia ficción, pero los que están a la vanguardia en desarrollo de IA advierten que ahora es un riesgo plausible.
En mayo, el Centro para la Seguridad de la IA publicó una breve nota que decía: «Mitigar los riesgos de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear».
Entre los pocos miles de firmantes se encontraban Altman de OpenAI, ejecutivos de Google y Microsoft, figuras de alto nivel en otras empresas emergentes de IA y Geoffrey Hinton, a menudo descrito como el «padrino de la IA» por su trabajo en aprendizaje profundo. No eran escépticos ni luditas, sino algunos de los pioneros de la tecnología, empujando su frontera hacia adelante.
Musk estuvo ausente de la lista de signatarios, pero instó por separado a una pausa de seis meses en el desarrollo de algo más sofisticado que el último modelo de IA generativa de OpenAI, GPT4. El jefe de Tesla y SpaceX también tiene una larga historia en IA. Musk cofundó OpenAI, pero dejó la empresa en 2018. En julio, lanzó formalmente su propio competidor, xAI.
“En última instancia, estas batallas entre el estado y la nación parecerán parroquiales en comparación con una superinteligencia digital”, argumentó Musk recientemente, discutiendo el lanzamiento de su xAI.
¿Cuáles son las preocupaciones más inmediatas?
La IA plantea muchos más riesgos inmediatos. Estos incluyen: terminar con la necesidad de que los humanos sean empleados en ciertos trabajos; permitir la difusión de información errónea convincente; violar los derechos de autor; y manipular a los humanos mediante el uso de chatbots deshonestos.
Recomendado
Mustafa Suleyman, fundador del fabricante de chatbots Inflection, advirtió recientemente que la IA crearía «una gran cantidad de perdedores» ya que los robots inteligentes dejarían sin trabajo a los empleados administrativos.
Los abogados, redactores y codificadores se encuentran entre los que temen que sus roles puedan verse interrumpidos o suplantados por chatbots que ya pueden ingerir grandes cantidades de datos y escupir argumentos razonados.
Los roles más creativos también están en riesgo. Los mejores guionistas y actores de Hollywood se han declarado en huelga este verano en parte porque temen que la IA pueda imitar su trabajo.
¿Puede la industria de la IA mitigar los riesgos?
OpenAI y otros ahora están invirtiendo mucho en «alinear» sus modelos de IA con un conjunto de objetivos y garantizar que no se desvíen de ellos. Esos esfuerzos están destinados a evitar que los chatbots propaguen daño, odio o información errónea.
Pero una herramienta muy poderosa podría ser cooptada por malos actores para cualquiera de esos usos, y Musk y otros han expresado su preocupación de que una IA deshonesta podría invertir los principios utilizados para «alinearla» y, en cambio, hacer lo contrario.
La competencia entre EE. UU. y China ha llevado a aumentos masivos en la inteligencia artificial y el gasto en defensa simultáneamente, ya que los dos países compiten por el dominio de la tecnología y para reforzar su seguridad nacional. En la intersección de los dos, es probable que la IA transforme la guerra moderna, ampliando la capacidad de las máquinas autónomas para encontrar y matar objetivos humanos.
Rachman Review: ¿Cuánto debemos temer a la inteligencia artificial?
Los políticos están lidiando con los riesgos y beneficios de la tecnología. Escucha aqui.
Read More: ¿Cuáles son los riesgos de usar IA en los negocios?