El tiempo de ejecución de los microservicios de DAPR ahora admite agentes de IA

En 2019, Microsoft DAPR de código abierto, un nuevo tiempo de ejecución para facilitar la construcción de aplicaciones basadas en microservicios distribuidos. En ese momento, nadie hablaba de los agentes de IA todavía, pero resulta que DAPR tenía algunos de los bloques de construcción fundamentales para apoyar a los agentes de IA incorporados desde el principio. Esto se debe a que una de las características centrales de DAPR es un concepto de actores virtuales, que pueden recibir y procesar mensajes, independientemente de todos los demás actores del sistema.

Hoy, el equipo de DAPR está lanzando agentes DAPR, su opinión sobre ayudar a los desarrolladores a construir agentes de IA al proporcionarles muchos de los componentes básicos para hacerlo.

«Los agentes son un muy buen caso de uso para DAPR», explicó el cocreador y mantenedor de DAPR Yaron Schneider. “Desde una perspectiva técnica, podría usar actores como una forma muy liviana de ejecutar estos agentes y realmente poder ejecutarlos a escala con el estado, y ser eficiente en recursos. Todo esto es genial, pero entonces, todavía hay mucha lógica comercial que necesita escribir. La estado y la orquestación son solo una parte. Y muchas personas, pueden elegir un motor de flujo de trabajo o un marco de actores, pero todavía hay mucho trabajo que necesitan hacer para escribir la lógica del agente en el otro lado. Hay muchos marcos de agentes por ahí, pero no tienen el mismo nivel de orquestación y estado que tiene DAPR «.

Los agentes de DAPR se originaron en Floki, un popular proyecto de código abierto que extendió DAPR para este caso de uso de agentes de IA. Hablando con los mantenedores de proyectos, incluido el investigador de AI de Microsoft, Roberto Rodríguez, los dos equipos decidieron llevar el proyecto bajo el paraguas DAPR para garantizar la continuidad del nuevo marco de agentes.

«En muchos sentidos, vemos sistemas de agente y toda la terminología en torno a eso como otro término para ‘sistemas distribuidos’, dijo el cocreador y mantenedor de DAPR Mark Fussell. «[…] En lugar de llamarlos microservicios, puede llamarlos agentes ahora, principalmente porque puede poner grandes modelos de idioma entre todos ellos ”.

Para coordinar de manera eficiente a esos agentes, necesita un motor de orquestación y de estado, argumenta el equipo, que es exactamente lo que ofrece DAPR. Eso se debe en parte a que los actores de DAPR están destinados a ser extremadamente eficientes y capaces de girar dentro de los milisegundos cuando entra un mensaje (y cerrado, con su estado conservado, cuando su trabajo está hecho).

En este momento, los agentes de DAPR pueden hablar con la mayoría de los proveedores de modelos populares fuera de la caja. Estos incluyen la roca madre de AWS, OpenAi, antrópica, mistral y abrazadera. El apoyo para LLM locales llegará muy pronto.

Además de interactuar con estos modelos, dado que los agentes DAPR extienden el marco DAPR existente, los desarrolladores también obtienen la capacidad de definir una lista de herramientas que el agente puede usar para cumplir con una tarea determinada.

Actualmente, los agentes de DAPR admiten Python, con el lanzamiento de .NET Support pronto. Java, JavaScript y Go seguirán pronto.