El pionero de la inteligencia artificial, Yoshua Bengio, dice que reorientará su investigación para asegurarse de que está trabajando en aplicaciones de la tecnología que sean seguras para la sociedad.
“He estado pensando mucho sobre esto y voy a hacer lo que creo que es mejor para ir en la dirección correcta”, dijo el jueves por la noche el ganador del Premio AM Turing 2018 y director del instituto Mila AI en Quebec.
“Creo que voy a reorientar mi investigación para trabajar en aplicaciones que no sean peligrosas o muy seguras como… la salud o el medio ambiente o trabajar en seguridad, para prepararme y prevenir lo que podría pasar”.
Los comentarios de Bengio se produjeron al final de un debate de Munk organizado en Roy Thomson Hall en Toronto, donde él y el profesor de física del Instituto Tecnológico de Massachusetts, Max Tegmark, discutieron con otros expertos en tecnología sobre si la IA representa una amenaza existencial.
La pareja argumentó que la IA está en camino de volverse aún más poderosa y podría lograr objetivos que no están alineados con los mejores intereses de la humanidad.
Si alguien con intenciones maliciosas se apodera de la tecnología y no se cuenta con los mecanismos de seguridad adecuados, dijeron que el resultado podría ser catastrófico.
“La cantidad de daño que puede causar a nuestra sociedad también está creciendo exponencialmente”, dijo Tegmark.
Señaló que la IA puede hacer años de investigación o leer todo Internet con horas y puede estar orientada a objetivos, lo que significa que puede persuadir, manipular y construir.
“Podría, por ejemplo, investigar cómo hacer armas biológicas más poderosas o cómo hacer sistemas aún más inteligentes para que pueda mejorar personalmente”, dijo Tegmark.
“Entonces, por supuesto, tendría el poder y el potencial para eliminarnos y tener esos objetivos”.
Como parte de sus argumentos, Bengio dijo que la humanidad debe ocuparse de todas las desventajas potenciales de la IA y debe avanzar hacia la regulación porque cualquier persona que use la tecnología con intenciones maliciosas podría crear “consecuencias nefastas”.
“Tenemos debilidades. Hay muchas formas en las que podemos diluirnos y hay teorías de conspiración y mucha gente se las cree”, dijo Bengio.
“Habrá personas que actuarán de manera extraña y harán cosas que pueden ser muy dañinas”.
Sin embargo, el pionero de la IA, Yann LeCun, y la profesora Davis de Complejidad en el Instituto de Santa Fe, Melanie Mitchell, refutaron que la IA puede usarse para el bien y no tiene la agencia para tomar el tipo de decisiones que causarían una amenaza existencial.
LeCun, quien se desempeña como vicepresidente y científico jefe de IA en Meta, la empresa matriz de Facebook e Instagram, llegó a decir que la IA desencadenará «un renacimiento» y una «iluminación».
“Los malos pueden usar la IA para cosas malas, pero hay muchos más buenos que pueden usar la misma IA, más poderosa”, argumentó.
Mitchell agregó que la IA aprende de los datos humanos, pero aún carece de aspectos fundamentales “de lo que es entender el mundo”.
“Es una falacia pensar que una máquina podría ser ‘más inteligente que los humanos en todos los aspectos’ y aún carecer de sentido común para comprender a los humanos”, dijo.
“Nunca le daría autonomía y recursos sin control a una IA que carece de estos aspectos básicos de inteligencia. Esto simplemente no tiene sentido.»
En los últimos meses, LeCun, quien ganó el Premio AM Turing con Bengio y el pionero de la IA Geoffrey Hinton, ha tenido una visión divergente de los riesgos de la IA en comparación con sus compañeros ganadores del premio.
LeCun ha dicho que la IA superará a la inteligencia humana, pero no cree que llegue pronto.
Mientras tanto, Bengio se unió a más de 1000 expertos en tecnología en marzo para pedir una pausa de seis meses en la capacitación de sistemas de IA más potentes que GPT-4, el modelo de lenguaje grande detrás de ChatGPT de OpenAI con sede en San Francisco.
Los cosignatarios incluyeron ingenieros de Amazon, Google, Meta y Microsoft, así como el cofundador de Apple, Steve Wozniak, y Rachel Bronson, presidenta del Bulletin of the Atomic Scientists.
En medio de los llamados a un enfoque cuidadoso de la IA, Ottawa se ha estado moviendo hacia la adopción de una ley de datos e inteligencia artificial.
La ley, que es parte de un proyecto de ley más amplio sobre privacidad del consumidor y protección de datos, prohibiría el uso de IA «imprudente y malicioso», establecería la supervisión de un comisionado y el ministro de industria e impondría sanciones financieras.
Ottawa ha dicho que entrará en vigor no antes de 2025.
&copia 2023 La prensa canadiense