Amazon se está preparando para relanzar su asistente digital de voz Alexa como un “agente” de inteligencia artificial que puede completar tareas prácticas, mientras el grupo tecnológico se apresura a resolver los desafíos que han afectado la revisión de la IA del sistema.
La compañía de 2,4 billones de dólares ha buscado durante los últimos dos años rediseñar Alexa, su sistema conversacional integrado en 500 millones de dispositivos de consumo en todo el mundo, para que el “cerebro” del software sea trasplantado con IA generativa.
Rohit Prasad, que dirige el equipo de inteligencia artificial general (AGI) de Amazon, dijo al Financial Times que el asistente de voz aún necesitaba superar varios obstáculos técnicos antes de su lanzamiento.
Esto incluye resolver el problema de las “alucinaciones” o respuestas inventadas, su velocidad de respuesta o “latencia” y su confiabilidad. «Las alucinaciones tienen que ser cercanas a cero», dijo Prasad. «Aún es un problema abierto en la industria, pero estamos trabajando muy duro para solucionarlo».
La visión de los líderes de Amazon es transformar a Alexa, que actualmente todavía se utiliza para un conjunto limitado de tareas simples como reproducir música y configurar alarmas, en un producto «agente» que actúa como un conserje personalizado. Esto podría incluir cualquier cosa, desde sugerir restaurantes hasta configurar las luces del dormitorio según los ciclos de sueño de una persona.
El rediseño de Alexa ha estado en marcha desde el lanzamiento de ChatGPT de OpenAI, respaldado por Microsoft, a finales de 2022. Si bien Microsoft, Google, Meta y otros han incorporado rápidamente IA generativa en sus plataformas informáticas y han mejorado sus servicios de software, los críticos han cuestionado si Amazon puede resolver sus dificultades técnicas y organizativas a tiempo para competir con sus rivales.
Según varios miembros del personal que han trabajado en los equipos de asistentes de voz de Amazon en los últimos años, su esfuerzo ha estado plagado de complicaciones y es el resultado de años de investigación y desarrollo de IA.
Varios ex trabajadores dijeron que la larga espera para una implementación se debió en gran medida a las dificultades inesperadas involucradas en cambiar y combinar los algoritmos predefinidos más simples en los que se construyó Alexa, con modelos de lenguaje grandes más potentes pero impredecibles.
En respuesta, Amazon dijo que estaba “trabajando arduamente para permitir una asistencia aún más proactiva y capaz” de su asistente de voz. Añadió que una implementación técnica de esta escala, en un servicio en vivo y un conjunto de dispositivos utilizados por clientes de todo el mundo, no tenía precedentes y no era tan simple como superponer un LLM al servicio de Alexa.
Prasad, ex arquitecto jefe de Alexa, dijo que el lanzamiento el mes pasado de los modelos internos Amazon Nova de la compañía, dirigido por su equipo AGI, fue motivado en parte por las necesidades específicas de velocidad, costo y confiabilidad óptimos, para ayudar a la IA. aplicaciones como Alexa “llegan a ese último kilómetro, que es realmente difícil”.
Para operar como agente, el «cerebro» de Alexa tiene que poder llamar a cientos de software y servicios de terceros, dijo Prasad.
“A veces subestimamos cuántos servicios están integrados en Alexa, y es una cantidad enorme. Estas aplicaciones reciben miles de millones de solicitudes a la semana, por lo que cuando intentas realizar acciones confiables a gran velocidad. . . hay que poder hacerlo de una manera muy rentable”, añadió.
La complejidad proviene de que los usuarios de Alexa esperan respuestas rápidas y niveles extremadamente altos de precisión. Tales cualidades están en desacuerdo con la naturaleza probabilística inherente de la IA generativa actual, un software estadístico que predice palabras basándose en patrones de habla y lenguaje.
Algunos ex empleados también señalan las luchas para preservar los atributos originales del asistente, incluyendo su consistencia y funcionalidad, al mismo tiempo que lo dotan de nuevas características generativas como la creatividad y el diálogo fluido.
Debido a la naturaleza más personalizada y comunicativa de los LLM, la compañía también planea contratar expertos para dar forma a la personalidad, la voz y la dicción de la IA para que siga siendo familiar para los usuarios de Alexa, según una persona familiarizada con el asunto.
Un ex miembro senior del equipo de Alexa dijo que, si bien los LLM son muy sofisticados, conllevan riesgos, como producir respuestas que «algunas veces están completamente inventadas».
«A la escala en la que opera Amazon, eso podría suceder una gran cantidad de veces al día», dijeron, dañando su marca y reputación.
En junio, Mihail Eric, ex científico de aprendizaje automático de Alexa y miembro fundador de su “equipo de modelado conversacional”, dijo públicamente que Amazon había “dejado caer la pelota” al convertirse en “el líder inequívoco del mercado en IA conversacional” con Alexa.
Eric dijo que a pesar de tener un gran talento científico y «enormes» recursos financieros, la empresa había estado «plagada de problemas técnicos y burocráticos», sugiriendo que «los datos estaban mal anotados» y «la documentación era inexistente o estaba obsoleta».
Según dos ex empleados que trabajan en la IA relacionada con Alexa, la tecnología histórica que sustenta el asistente de voz había sido inflexible y difícil de cambiar rápidamente, agobiada por una base de código torpe y desorganizada y un equipo de ingeniería «demasiado disperso».
El software Alexa original, construido sobre tecnología adquirida de la startup británica Evi en 2012, era una máquina de respuesta a preguntas que funcionaba buscando dentro de un universo definido de hechos para encontrar la respuesta correcta, como el clima del día o una fecha específica. canción en tu biblioteca de música.
La nueva Alexa utiliza una variedad de diferentes modelos de inteligencia artificial para reconocer y traducir consultas de voz y generar respuestas, así como para identificar violaciones de políticas, como captar respuestas inapropiadas y alucinaciones. La creación de software para traducir entre los sistemas heredados y los nuevos modelos de IA ha sido un obstáculo importante en la integración de Alexa-LLM.
Los modelos incluyen el software interno de Amazon, incluidos los últimos modelos Nova, así como Claude, el modelo de IA de la startup Anthropic, en el que Amazon ha invertido 8.000 millones de dólares en el transcurso de los últimos 18 meses.
“[T]Lo más desafiante de los agentes de IA es asegurarse de que sean seguros, confiables y predecibles”, dijo el año pasado al Financial Times el director ejecutivo de Anthropic, Dario Amodei.
El software de IA tipo agente debe llegar al punto “en el que… . . la gente puede realmente confiar en el sistema”, añadió. «Una vez que lleguemos a ese punto, lanzaremos estos sistemas».
Recomendado
Un empleado actual dijo que aún se necesitaban más pasos, como superponer filtros de seguridad infantil y probar integraciones personalizadas con Alexa, como luces inteligentes y el timbre Ring.
«La confiabilidad es el problema: lograr que funcione cerca del 100 por ciento del tiempo», añadió el empleado. «Por eso nos ves». . . o Apple o Google realizan envíos de forma lenta y gradual”.
Numerosos terceros que desarrollan “habilidades” o funciones para Alexa dijeron que no estaban seguros de cuándo se lanzaría el nuevo dispositivo generativo habilitado para IA y cómo crear nuevas funciones para él.
«Estamos esperando los detalles y la comprensión», dijo Thomas Lindgren, cofundador del desarrollador de contenidos sueco Wanderword. “Cuando empezamos a trabajar con ellos, eran mucho más abiertos. . . luego, con el tiempo, han cambiado”.
Otro socio dijo que después de un período inicial de “presión” que Amazon ejerció sobre los desarrolladores para que comenzaran a prepararse para la próxima generación de Alexa, las cosas se habían calmado.
Un desafío duradero para el equipo de Alexa de Amazon, que sufrió importantes despidos en 2023, es cómo ganar dinero. Descubrir cómo hacer que los asistentes sean “lo suficientemente baratos para funcionar a escala” será una tarea importante, dijo Jared Roesch, cofundador del grupo de IA generativa OctoAI.
Las opciones que se están discutiendo incluyen la creación de un nuevo servicio de suscripción de Alexa o tomar una parte de las ventas de bienes y servicios, dijo un ex empleado de Alexa.
Prasad dijo que el objetivo de Amazon era crear una variedad de modelos de IA que pudieran actuar como «bloques de construcción» para una variedad de aplicaciones más allá de Alexa.
«En lo que siempre nos basamos es en los clientes y la IA práctica, no hacemos ciencia por el bien de la ciencia», dijo Prasad. “Estamos haciendo esto. . . ofrecer valor e impacto al cliente, algo que en esta era de IA generativa se está volviendo más importante que nunca porque los clientes quieren ver un retorno de la inversión”.
Read More: Amazon se apresura a trasplantar el ‘cerebro’ de Alexa con IA generativa
