Los ejecutivos de AI emiten una advertencia severa

La esencia

• Mitigar los riesgos de la IA. En una nueva carta abierta, varios líderes de AI están de acuerdo en que abordar los riesgos de la IA es tan crucial como abordar las pandemias y la guerra nuclear.
• Grandes riesgos de IA. Algunos de los riesgos citados por The Center for AI Safety incluyen el uso de armas y la desestabilización política.
• El chatbot de IA de NEDA falla: AI chatbot «Tessa» eliminado por dar consejos dañinos.

Ayer, mientras una audiencia de alrededor de 3 millones de espectadores tomaba un café matutino y llevaba a los niños a la escuela, Craig Melvin, presentador del programa Today, leyó crípticamente esta declaración de una oración firmada por algunos nombres importantes en el campo de la inteligencia artificial que advierten que la IA podría conducir a la extinción humana.

“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.

¡Buenos dias a todos!

Como el corresponsal de tecnología Jacob Ward discutió el temor de que la IA «se escape de las ataduras del mando humano», señaló, «este es un resultado teórico en el futuro» antes de agregar que todos podemos estar de acuerdo en que «ser esclavizado por robots es algo malo».

Cuando Melvin le pidió a Ward que explicara cómo podría resultar «deslizarse de las ataduras del mando humano», Ward respondió: «Bueno, ya sabes, el potencial, ¿verdad? La película de ciencia ficción es el escenario de Terminator. Eso es lo que preocupa a la gente en este tipo de sentido más amplio, ¿verdad?

Bueno, Jacob, si no lo eran, probablemente lo sean ahora.

La ominosa (y sucinta) nueva advertencia que agrupa los riesgos de la IA con los «riesgos sociales» como las pandemias y la guerra nuclear, fue publicada el martes por el Centro para la Seguridad de la IA y firmada por más de 350 de los principales ejecutivos e investigadores de la IA, incluido Geoffrey Hinton. , conocido como el padrino de la inteligencia artificial y los directores ejecutivos de OpenAI y Google DeepMind, Sam Altman y Demis Hassabis, respectivamente.

Hinton, figura pionera en IA, recibe el ACM AM Premio Turing, conocido como el “Premio Nobel” de la computación. No se unió a los más de 31,000 líderes tecnológicos que firmaron una carta abierta pidiendo un período de seis meses. interrupción del nuevo desarrollo de IA porque no quiso criticar públicamente a Google (ni a nadie) hasta que dejó su trabajo como investigador de Google (renunció en abril).

Según el Centro para la seguridad de la IA, «Hay muchas maneras en que los sistemas de IA podrían plantear o contribuir a riesgos a gran escala» y «Cuando la IA se vuelve más avanzada, eventualmente podría presentar riesgos catastróficos o existenciales».

Además de un cyborg de Cyberdyne Systems que aparece para marcar el comienzo del plan de Skynet para acabar con la humanidad, ¿de qué tipo de riesgos estamos hablando? El Centro para la Seguridad de la IA enumera muchos, incluida la «armamentización» en la que «los actores malintencionados podrían reutilizar la IA para que sea altamente destructiva, presentando un riesgo existencial en sí mismo y aumentando la probabilidad de desestabilización política».

Por ejemplo, dicen que «se han aplicado métodos de aprendizaje de refuerzo profundo al combate aéreo, y las herramientas de descubrimiento de drogas de aprendizaje automático podrían usarse para construir armas químicas».

Entonces, está eso. No estoy muy seguro de cómo cerrar las noticias sobre una posible extinción humana a manos de la IA, excepto para ofrecer un poco de contexto. Con cada avance, nacen nuevos miedos. Por ejemplo, los temores antiguos de que los subterráneos estaban ubicados peligrosamente cerca del infierno o que usar un teléfono en una tormenta eléctrica podría electrocutarte. Y Platón dijo una vez sobre la escritura: “Si los hombres aprenden esto, implantará el olvido en sus almas”. Entonces, un poco de perspectiva es algo bueno.

En otras noticias de IA…

NEDA elimina AI Chatbot ‘Tessa’ en medio de controversia

La Asociación Nacional de Trastornos de la Alimentación (NEDA, por sus siglas en inglés) se encontró en el centro de atención recientemente después de que surgieron informes de que su chatbot de inteligencia artificial, «Tessa», estaba brindando consejos dañinos, como consejos para perder peso y restringir las calorías, lo que podría desencadenar a las personas que luchan contra los trastornos alimentarios. .

La semana pasada, después de que Sharon Maxwell acudiera a su cuenta de Instagram para criticar a Tessa, se eliminó el chatbot. La crítica coincide con una controversia anterior cuando NEDA despidió a cuatro empleados que habían formado un sindicato para su servicio de línea de ayuda, Helpline Associates United. Se alega que los empleados fueron despedidos poco después de que se certificara su elección sindical, lo que llevó al sindicato a presentar cargos por prácticas laborales injustas ante la Junta Nacional de Relaciones Laborales.

Tessa se desarrolló en colaboración con Cass AI e investigadores de psicología para proporcionar prevención y apoyo accesibles para los trastornos alimentarios. A pesar de la afirmación de NEDA de que Tessa nunca tuvo la intención de reemplazar a los trabajadores de la línea de ayuda, el momento de su implementación generó una gran preocupación y una reacción violenta. La controversia se intensificó aún más por el hecho de que la línea de ayuda había visto un aumento del 107 % en llamadas y mensajes desde que comenzó la pandemia, con informes de crisis de salud mental graves que casi se triplicaron.

Artículo relacionado: AI Wonderland: los titanes tecnológicos hacen que todos los días se sientan como Navidad

IA en el comercio minorista: desde el mostrador de pago hasta Power Player

Según un nuevo informe de Extrapolate, se prevé que el mercado minorista global de inteligencia artificial (que fue de $ 6370 millones en 2022) alcance un valor de $ 48 640 millones para 2032, impulsado por la creciente conciencia de la IA y una creciente inversión de los principales actores del mercado.

“Los minoristas están utilizando inteligencia artificial para mejorar el pronóstico de la demanda, optimizar la colocación de productos y tomar decisiones de precios”, dijeron los funcionarios de Extrapolate en un comunicado. “Los minoristas pueden mejorar su comprensión del comportamiento del cliente, reducir costos y mejorar la experiencia de compra al aprovechar el poder del aprendizaje automático y los algoritmos de aprendizaje profundo”.

El nuevo amigo impulsado por IA de Instacart

Instacart ha presentado una nueva herramienta de búsqueda impulsada por IA, «Ask Instacart», que aprovecha ChatGPT de OpenAI para brindar recomendaciones de compras personalizadas. La función, integrada en la barra de búsqueda de la aplicación Instacart, ofrece información sobre la preparación de alimentos, atributos del producto, consideraciones dietéticas y más. El sistema está diseñado para responder a una amplia gama de consultas, desde sugerir guarniciones para platos principales específicos hasta recomendar bocadillos dietéticos específicos. La nueva herramienta se lanzará a todos los clientes de EE. UU. y Canadá en las próximas semanas.

Anteriormente, la barra de búsqueda de Instacart se usaba para encontrar productos, tiendas y recetas. Sin embargo, con «Ask Instacart», la aplicación pretende convertirse en una solución integral para la preparación de alimentos, eliminando la necesidad de búsquedas separadas en Internet para obtener recomendaciones. La introducción de la función sigue al lanzamiento reciente de un complemento de Instacart para ChatGPT.

Artículo Relacionado: El CEO de OpenAI testifica sobre la seguridad y la ética de la IA en una audiencia en el Senado de EE. UU.

La varita mágica de Disney: IA preparada para transformar los anuncios de televisión y agilizar el marketing

Rita Ferro, responsable de publicidad de Disney, ha anunciado que los próximos 12 meses de la compañía estarán centrados en la inteligencia artificial. Ferro compartió la noticia durante el evento «El estado de la publicidad televisiva» organizado por AdAge, con un adelanto de la posible influencia de la IA en el marketing y las experiencias creativas en las plataformas de televisión e Internet.

Al analizar el potencial de la IA en el marketing de compras dentro de los servicios de transmisión, Ferro señaló que actualmente, los clientes utilizan códigos QR para comprar productos que se muestran en los anuncios en pantalla. Sin embargo, propuso que la IA podría aprovecharse para identificar productos dentro de imágenes y proponer opciones de compra directa a través de la interfaz de transmisión, eliminando la necesidad de códigos QR.

AI Tweet de la semana: OpenAI descifra el código matemático

OpenAI ha anunciado un nuevo modelo que, según dice, alcanza un nivel de competencia sin precedentes para resolver problemas matemáticos. Según los funcionarios de la empresa, esto se logra otorgando recompensas por cada paso correcto en el proceso de resolución de problemas, en un método llamado «supervisión de procesos», en lugar de simplemente recompensar la respuesta correcta final, conocida como «supervisión de resultados».

“Además de impulsar el desempeño en relación con la supervisión de resultados, la supervisión de procesos también tiene un importante beneficio de alineación: entrena directamente al modelo para producir una cadena de pensamiento respaldada por humanos”, dijeron los funcionarios de la compañía en un comunicado.

El CEO de OpenAI, Sam Altman, se dirigió a Twitter esta semana para compartir su entusiasmo.

Vídeo de la semana con IA: Café y catástrofe

Nada como despertarse con una advertencia de que la IA podría acabar con la humanidad.