Panoramica

La banca di memoria di Vertex AI Agent Engine ti consente di generare dinamicamente ricordi a lungo termine in base alle conversazioni degli utenti con il tuo agente. I ricordi a lungo termine sono informazioni personalizzate a cui è possibile accedere in più sessioni per un determinato utente. L'agente può utilizzare i ricordi per personalizzare le risposte all'utente e creare continuità tra le sessioni.

Le funzionalità di Memory Bank includono:

  • Archiviazione permanente dei ricordi a cui è possibile accedere da più ambienti. Puoi utilizzare le sessioni e la banca di memoria di Vertex AI Agent Engine con l'agente di cui è stato eseguito il deployment su Vertex AI Agent Engine, dal tuo ambiente locale o con altre opzioni di deployment.

  • Estrazione di ricordi dalle sessioni basata su modelli linguistici di grandi dimensioni (LLM).

  • I ricordi vengono generati in modo asincrono da remoto, quindi l'agente non deve attendere che vengano generati.

  • Ricerca di ricordi basata sulla somiglianza limitata a un utente.

  • Se utilizzi la banca di memoria dell'agente Vertex AI con il kit di sviluppo dell'agente, l'agente legge e scrive automaticamente le memorie a lungo termine per te.

Panoramica concettuale della banca di memoria dell'agente Vertex AI

Memory Bank si integra con le sessioni di Vertex AI Agent Engine per generare ricordi dalle sessioni memorizzate utilizzando la seguente procedura:

  1. (Sessioni) CreateSession: all'inizio di ogni conversazione, crea una nuova sessione. La cronologia della conversazione utilizzata dall'agente è limitata a questa sessione. Una sessione contiene la sequenza cronologica di messaggi e azioni (SessionEvents) per un'interazione tra un utente e il tuo agente. Tutte le sessioni devono avere un ID utente; i ricordi estratti (vedi GenerateMemories) per questa sessione sono mappati a questo utente.

  2. (Sessioni) AppendEvent: quando l'utente interagisce con l'agente, gli eventi (ad esempio i messaggi dell'utente, le risposte dell'agente, le azioni dello strumento) vengono caricati in Sessioni. In questo modo viene garantita la persistenza della cronologia delle conversazioni e viene creato un record della conversazione che può essere utilizzato per generare ricordi.

  3. (Sessioni) ListEvents: quando l'utente interagisce con l'agente, quest'ultimo recupera la cronologia della conversazione.

  4. (Memory Bank) Genera o crea ricordi:

    • GenerateMemories: a un intervallo specificato (ad esempio alla fine di ogni sessione o di ogni turno), l'agente può attivare la generazione di ricordi utilizzando la cronologia della conversazione. I dati sull'utente vengono estratti automaticamente dalla cronologia delle conversazioni in modo che siano disponibili per le sessioni attuali o future.

    • CreateMemory: l'agente può scrivere i ricordi direttamente nella Banca dei ricordi. Ad esempio, l'agente può decidere quando scrivere un ricordo e quali informazioni salvare (ricordo come strumento). Utilizza CreateMemory quando vuoi che l'agente abbia un maggiore controllo sui fatti da estrarre.

  5. (Memory Bank) RetrieveMemories: quando l'utente interagisce con l'agente, quest'ultimo può recuperare i ricordi salvati relativi all'utente. Puoi recuperare tutti i ricordi (recupero semplice) o solo i ricordi più pertinenti alla conversazione corrente (ricerca di ricordi simili). Dopodiché puoi inserire i ricordi recuperati nel prompt.

Inizia a utilizzare Memory Bank con le seguenti guide rapide: