(LONDRES) — La información falsa y engañosa sobrecargada con inteligencia artificial de vanguardia que amenaza con erosionar la democracia y polarizar a la sociedad es el principal riesgo inmediato para la economía global, dijo el Foro Económico Mundial en un informe el miércoles.
En su último Informe de Riesgos Globales, la organización también dijo que una serie de riesgos ambientales representan las mayores amenazas a largo plazo. El informe fue publicado antes de la reunión anual de élite de directores ejecutivos y líderes mundiales en la ciudad turística de esquí suiza de Davos y se basa en una encuesta a casi 1.500 expertos, líderes de la industria y formuladores de políticas.
El informe enumera la desinformación como el riesgo más grave en los próximos dos años, destacando cómo los rápidos avances en tecnología también están creando nuevos problemas o empeorando los existentes.
A los autores les preocupa que el auge de los chatbots de IA generativa como ChatGPT signifique que la creación de contenido sintético sofisticado que pueda usarse para manipular grupos de personas ya no se limite a aquellos con habilidades especializadas.
La IA será un tema candente la próxima semana en las reuniones de Davos, a las que se espera que asistan jefes de empresas de tecnología, incluido el CEO de OpenAI, Sam Altman, el CEO de Microsoft, Satya Nadella, y actores de la industria de la IA como el científico jefe de IA de Meta, Yann LeCun.
La desinformación y la desinformación impulsada por la IA están surgiendo como un riesgo justo cuando miles de millones de personas en una gran cantidad de países, incluidas grandes economías como Estados Unidos, Gran Bretaña, Indonesia, India, México y Pakistán, se dirigen a las urnas este domingo. año y el próximo, según el informe.
«Se puede aprovechar la IA para hacer deepfakes y realmente impactar a grandes grupos, lo que realmente genera desinformación», dijo Carolina Klint, líder de gestión de riesgos en Marsh, cuya empresa matriz, Marsh McLennan, fue coautora del informe con Zurich Insurance Group.
«Las sociedades podrían polarizarse aún más» a medida que a la gente le resulte más difícil verificar los hechos, afirmó. La información falsa también podría utilizarse para alimentar dudas sobre la legitimidad de los gobiernos electos, «lo que significa que los procesos democráticos podrían verse erosionados y también impulsaría la polarización social aún más”, dijo Klint.
El auge de la IA conlleva muchos otros riesgos, afirmó. Puede empoderar a los “actores maliciosos” al facilitar la realización de ataques cibernéticos, por ejemplo, automatizando intentos de phishing o creando malware avanzado.
Con la IA, “no es necesario ser la herramienta más inteligente del cobertizo para ser un actor malicioso”, dijo Klint.
Incluso puede envenenar los datos que se extraen de Internet para entrenar otros sistemas de IA, lo que es “increíblemente difícil de revertir” y podría dar lugar a que se incorporen más sesgos en los modelos de IA, afirmó.
La otra gran preocupación global para los encuestados de la encuesta de riesgo se centró en el cambio climático.
Después de la desinformación y la desinformación, el clima extremo es el segundo riesgo más acuciante a corto plazo.
A largo plazo, definido como 10 años, el clima extremo fue descrito como la amenaza número uno, seguido de otros cuatro riesgos relacionados con el medio ambiente: cambios críticos en los sistemas de la Tierra; pérdida de biodiversidad y colapso de los ecosistemas; y escasez de recursos naturales.
«Podríamos ser empujados a superar ese punto de inflexión irreversible del cambio climático» durante la próxima década a medida que los sistemas de la Tierra experimenten cambios a largo plazo, dijo Klint.
Continuar leyendo: La desinformación sobre IA es la mayor amenaza a corto plazo del mundo: FEM