Un científico informático ha estado advirtiendo sobre los peligros potenciales de la IA durante semanas. Geoffrey Hinton dejó Google recientemente para poder hacer sonar la alarma sobre cómo la IA pronto podría superar a los humanos.
ERIC DEGGANS, ANFITRIÓN:
Geoffrey Hinton es conocido como el padrino de la inteligencia artificial. Ayudó a crear algunas de las herramientas más importantes en el campo. Pero ahora está advirtiendo en voz alta y apasionadamente que la tecnología se puede estar saliendo de control. Bobby Allyn de NPR habló con él sobre lo que impulsa su cruzada.
BOBBY ALLYN, BYLINE: Sabes que un científico informático es un gran problema cuando Snoop Dogg habla de él. Aquí está en una conferencia en Beverly Hills a principios de este mes discutiendo la IA.
(SOUNDBITE DE GRABACIÓN ARCHIVADA)
SNOOP DOGG: ¿Qué está pasando? Luego escuché al tipo que, el viejo que creó la IA, algo así como, esto no es seguro porque la IA tiene sus propias mentes, y estos [expletive] van a empezar a hacer los suyos [expletive]. Estoy como, ¿estamos en un [expletive] película ahora mismo o qué?
ALLYN: El viejo, por supuesto, es Geoffrey Hinton, un académico británico de 75 años que vive en Toronto y ha pasado 50 años desarrollando inteligencia artificial de vanguardia, más recientemente para Google.
GEOFFREY HINTON: Está bien. puedes escucharme ahora?
ALLYN: En 2012, Hinton y dos de sus estudiantes de la Universidad de Toronto construyeron lo que se llama una red neuronal. Se llama así porque es un sistema informático geek que funciona de la forma en que funciona un cerebro, como funcionan las neuronas. Podrías alimentarlo con toneladas y toneladas de datos, como fotos, y aprendería a identificar, por ejemplo, una flor de un perro. Este avance es la base de tantas herramientas de IA que se utilizan en todo, desde analizar resonancias magnéticas y hospitales hasta ayudar a los agricultores a comprender los rendimientos de los cultivos y, por supuesto, se utilizan en el exitoso servicio ChatGPT. Pero ahora Hinton ha dejado Google y está haciendo sonar la alarma.
HINTON: Estas cosas podrían volverse más inteligentes que nosotros y podrían decidir hacerse cargo, y ahora debemos preocuparnos por cómo evitar que eso suceda.
ALLYN: Llegó a este puesto recientemente después de que ocurrieron dos cosas: primero, cuando estaba probando un bot de chat en Google y pareció entender una broma que le contó, que lo inquietó; en segundo lugar, cuando se dio cuenta de que la IA que puede superar a los humanos está mucho más cerca de lo que pensaba anteriormente.
HINTON: Durante mucho tiempo pensé que estábamos como a 30 o 50 años de eso. Así que lo llamo muy lejos de algo que tiene mayor inteligencia general que una persona. Ahora, creo que podemos estar mucho más cerca, tal vez a solo cinco años de eso.
ALLYN: El mes pasado, más de 30 000 investigadores de IA y otros académicos firmaron una carta pidiendo una pausa en la investigación de IA hasta que se comprendan mejor los riesgos para la sociedad. Hinton se negó a firmar la carta porque no tenía sentido para él.
HINTON: La investigación se llevará a cabo en China si no se lleva a cabo aquí porque hay muchos beneficios de estas cosas, aumentos tan grandes en la productividad.
ALLYN: Ahora, ¿cómo se ven esos controles? ¿Cómo se debe regular exactamente la IA? Esas son preguntas difíciles para las que incluso Hinton no tiene respuestas. Pero cree que los políticos deben dedicar el mismo tiempo y dinero al desarrollo de barandas. Algunas de sus advertencias suenan un poco como el fin del mundo para la humanidad.
HINTON: Existe un serio peligro de que pronto seamos más inteligentes que nosotros y que estas cosas puedan tener malos motivos y tomar el control.
ALLYN: Hinton no está hablando de una invasión de robots a la Casa Blanca, sino más bien de la capacidad de crear y desplegar campañas de desinformación sofisticadas que podrían interferir con las elecciones.
HINTON: Esto no es solo un problema de ciencia ficción. Este es un problema grave que probablemente llegará bastante pronto, y los políticos deben pensar qué hacer al respecto ahora.
ALLYN: Dice que se rió del clip de Snoop Dogg hablando de sus advertencias de IA. Snoop parece entenderlo. Hinton espera que Washington también lo haga.
Bobby Allyn, NPR Noticias.
Derechos de autor © 2023 NPR. Reservados todos los derechos. Visite las páginas de términos de uso y permisos de nuestro sitio web en www.npr.org para obtener más información.
Las transcripciones de NPR las crea un contratista de NPR en una fecha límite urgente. Este texto puede no estar en su forma final y puede ser actualizado o revisado en el futuro. La precisión y la disponibilidad pueden variar. El registro autorizado de la programación de NPR es el registro de audio.