Übersicht

Mit der Vertex AI Agent Engine Memory Bank können Sie dynamisch Langzeiterinnerungen basierend auf den Unterhaltungen der Nutzer mit Ihrem Agenten generieren. Langzeitgedächtnis sind personalisierte Informationen, auf die für einen bestimmten Nutzer über mehrere Sitzungen hinweg zugegriffen werden kann. Der Kundenservicemitarbeiter kann die Erinnerungen verwenden, um Antworten für den Nutzer zu personalisieren und eine sitzungsübergreifende Kontinuität zu schaffen.

Zu den Funktionen von Memory Bank gehören:

  • Dauerhafter Speicher von Erinnerungen, auf die aus mehreren Umgebungen zugegriffen werden kann. Sie können Vertex AI Agent Engine-Sitzungen und die Speicherbank mit Ihrem bereitgestellten Agenten in der Vertex AI Agent Engine, in Ihrer lokalen Umgebung oder mit anderen Bereitstellungsoptionen verwenden.

  • LLM-basierte Extraktion von Erinnerungen aus Sitzungen

  • Erinnerungen werden asynchron aus der Ferne generiert, sodass der Kundenservicemitarbeiter nicht warten muss, bis Erinnerungen generiert wurden.

  • Abruf von Erinnerungen auf Grundlage einer Ähnlichkeitssuche, die auf einen Nutzer beschränkt ist.

  • Wenn Sie die Vertex AI Agent Engine Memory Bank mit dem Agent Development Kit verwenden, liest und schreibt Ihr Agent automatisch Langzeitgedächtnis für Sie.

Konzeptionelle Übersicht der Vertex AI-Agent-Engine-Speicherbank

Die Speicherbank wird in Vertex AI Agent Engine-Sitzungen eingebunden, um Erinnerungen aus gespeicherten Sitzungen mithilfe des folgenden Prozesses zu generieren:

  1. (Sitzungen) CreateSession: Zu Beginn jeder Unterhaltung eine neue Sitzung erstellen. Der vom Kundenservicemitarbeiter verwendete Unterhaltungsverlauf ist auf diese Sitzung beschränkt. Eine Sitzung enthält die chronologische Abfolge von Nachrichten und Aktionen (SessionEvents) für eine Interaktion zwischen einem Nutzer und Ihrem Kundenservicemitarbeiter. Alle Sitzungen müssen eine Nutzer-ID haben. Die extrahierten Erinnerungen (siehe GenerateMemories) für diese Sitzung werden diesem Nutzer zugeordnet.

  2. (Sitzungen) AppendEvent: Wenn der Nutzer mit dem Kundenservicemitarbeiter interagiert, werden Ereignisse (z. B. Nutzernachrichten, Kundenservicemitarbeiterantworten, Toolaktionen) in „Sitzungen“ hochgeladen. So wird sichergestellt, dass der Unterhaltungsverlauf erhalten bleibt, und es wird ein Datensatz der Unterhaltung erstellt, der zum Erstellen von Erinnerungen verwendet werden kann.

  3. (Sitzungen) ListEvents: Während der Nutzer mit dem Kundenservicemitarbeiter interagiert, ruft dieser den Unterhaltungsverlauf ab.

  4. (Erinnerungsbank) Erinnerungen erstellen oder generieren:

    • GenerateMemories: In einem bestimmten Intervall (z. B. am Ende jeder Sitzung oder jeder Unterhaltungsrunde) kann der Bot Erinnerungen anhand des Unterhaltungsverlaufs generieren. Informationen über den Nutzer werden automatisch aus dem Unterhaltungsverlauf extrahiert, damit sie für aktuelle oder zukünftige Sitzungen verfügbar sind.

    • CreateMemory: Ihr Kundenservicemitarbeiter kann Erinnerungen direkt in die Speicherbank schreiben. So kann der Kundenservicemitarbeiter beispielsweise entscheiden, wann ein Speicher geschrieben werden soll und welche Informationen gespeichert werden sollen (Erinnerung als Tool). Verwenden Sie CreateMemory, wenn Ihr Kundenservicemitarbeiter mehr Kontrolle darüber haben soll, welche Fakten extrahiert werden.

  5. (Memory Bank) RetrieveMemories: Wenn der Nutzer mit Ihrem Kundenservicemitarbeiter interagiert, kann dieser Erinnerungen abrufen, die über den Nutzer gespeichert wurden. Sie können entweder alle Erinnerungen abrufen (einfache Abrufmethode) oder nur die für die aktuelle Unterhaltung relevantesten Erinnerungen (Abrufmethode für Ähnlichkeitssuche). Anschließend können Sie die abgerufenen Erinnerungen in Ihren Prompt einfügen.

Mit den folgenden Kurzanleitungen können Sie die Memory Bank kennenlernen:

  • Kurzanleitung zur REST API: Folgen Sie der REST API-Kurzanleitung, um API-Aufrufe direkt an die Vertex AI Agent Engine-Sitzungen und die Speicherbank zu senden.

  • Kurzanleitung für das Agent Development Kit (ADK): Folgen Sie der Kurzanleitung für das Agent Development Kit (ADK), wenn Ihr ADK-Agent Aufrufe an Vertex AI Agent Engine-Sitzungen und die Speicherbank für Sie orchestrieren soll.