Descripción general

El banco de memoria de Vertex AI Agent Engine te permite generar de forma dinámica recuerdos a largo plazo en función de las conversaciones de los usuarios con tu agente. Los recuerdos a largo plazo son información personalizada a la que se puede acceder en varias sesiones para un usuario en particular. El agente puede usar los recuerdos para personalizar las respuestas al usuario y crear continuidad entre sesiones.

Entre las funciones del banco de memoria, se incluyen las siguientes:

  • Almacenamiento persistente de recuerdos al que se puede acceder desde varios entornos. Puedes usar las sesiones y el banco de memoria de Vertex AI Agent Engine con tu agente implementado en Vertex AI Agent Engine, desde tu entorno local o con otras opciones de implementación.

  • Extracción de recuerdos de sesiones basada en modelos de lenguaje grandes (LLM)

  • Los recuerdos se generan de forma asíncrona de forma remota, por lo que el agente no necesita esperar a que se generen.

  • Recuperación de recuerdos basada en la búsqueda de similitudes centrada en un usuario.

  • Si usas el banco de memoria de Vertex AI Agent Engine con el kit de desarrollo de agentes, tu agente leerá y escribirá automáticamente los recuerdos a largo plazo por ti.

Descripción general conceptual del banco de memoria del motor de agentes de Vertex AI

Memory Bank se integra a las sesiones de Vertex AI Agent Engine para generar recuerdos a partir de sesiones almacenadas con el siguiente proceso:

  1. (Sesiones) CreateSession: Al comienzo de cada conversación, crea una sesión nueva. El historial de conversaciones que usa el agente se limita a esta sesión. Una sesión contiene la secuencia cronológica de mensajes y acciones (SessionEvents) para una interacción entre un usuario y tu agente. Todas las sesiones deben tener un ID de usuario. Los recuerdos extraídos (consulta GenerateMemories) de esta sesión se asignan a este usuario.

  2. (Sesiones) AppendEvent: A medida que el usuario interactúa con el agente, los eventos (como los mensajes del usuario, las respuestas del agente y las acciones de la herramienta) se suben a Sesiones. Esto garantiza la persistencia del historial de conversaciones y crea un registro de la conversación que se puede usar para generar recuerdos.

  3. (Sesiones) ListEvents: A medida que el usuario interactúa con el agente, este recupera el historial de la conversación.

  4. (Banco de memoria) Genera o crea recuerdos:

    • GenerateMemories: En un intervalo especificado (como el final de cada sesión o el final de cada turno), el agente puede activar los recuerdos que se generarán con el historial de conversaciones. Los datos sobre el usuario se extraen automáticamente del historial de conversaciones para que estén disponibles para las sesiones actuales o futuras.

    • CreateMemory: Tu agente puede escribir recuerdos directamente en el banco de memoria. Por ejemplo, el agente puede decidir cuándo se debe escribir una memoria y qué información se debe guardar (memoria como herramienta). Usa CreateMemory cuando quieras que tu agente tenga más control sobre los hechos que se extraen.

  5. (Banco de memoria) RetrieveMemories: A medida que el usuario interactúa con tu agente, este puede recuperar los recuerdos guardados sobre ese usuario. Puedes recuperar todos los recuerdos (recuperación simple) o solo los más relevantes para la conversación actual (recuperación de búsqueda de similitudes). Luego, puedes insertar los recuerdos recuperados en tu instrucción.

Comienza a usar Memory Bank con las siguientes guías de inicio rápido: