Agenten-Gedächtnis: Memory für KI-Agenten

Was dieser Artikel über Agenten-Gedächtnis behandelt

• Was Agenten-Gedächtnis ist und warum ein Agent ohne Gedächtnis schnell im Kreis läuft
• Welche Arten von Gedächtnis es gibt, vom Kurzzeitgedächtnis bis zum prozeduralen Gedächtnis
• Wie Kurzzeitgedächtnis über den Context Window funktioniert und wann Summarization eingreift
• Wie Langzeitgedächtnis mit Vektordatenbanken und Embeddings funktioniert
• Wie Du Memory mit Frameworks wie LangGraph, CrewAI und Mem0 implementierst

Einleitung: Agenten-Gedächtnis verständlich erklärt

Ein KI-Agent ohne Gedächtnis ist wie ein Kollege, der nach jedem Satz vergisst, was er gerade gesagt hat. Du erklärst ihm eine Aufgabe, er beginnt zu arbeiten, und zwei Schritte später hat er vergessen, was er schon erledigt hat. Er fängt von vorne an, wiederholt sich oder verliert den Faden. Genau dieses Problem löst das Agenten-Gedächtnis, auf Englisch meist Memory genannt.

Dieser Artikel richtet sich an Einsteiger, die verstehen wollen, wie Agenten sich Informationen merken. Du brauchst keine Vorkenntnisse in Datenbanken oder Vektorrechnung. Nach dem Lesen kennst Du die wichtigsten Gedächtnis-Arten, verstehst wie Kurzzeit- und Langzeitgedächtnis technisch funktionieren und weißt, welche Frameworks Dir bei der Implementierung helfen. Wenn Du bereits weißt, was ein Agentensystem ist, hilft Dir dieser Artikel, den nächsten Baustein zu verstehen.

Warum brauche ich Agenten-Gedächtnis?

Stell Dir vor, Du baust einen Agenten, der Deine E-Mails sortiert und Antworten entwirft. In Schritt 1 liest er eine E-Mail von einer Kundin namens Frau Weber. In Schritt 2 ruft er die Kundendaten aus Deinem CRM ab. In Schritt 3 soll er einen Antwortentwurf schreiben, der sich auf beides bezieht, auf den Inhalt der E-Mail und auf die Kundendaten.

Ohne Gedächtnis ist der Agent in Schritt 3 blind. Er hat vergessen, was in Schritt 1 passiert ist, und er hat vergessen, was er in Schritt 2 abgerufen hat. Er müsste beide Schritte wiederholen oder Du müsstest ihm alle Informationen erneut übergeben. Das ist ineffizient und fehleranfällich.

Mit einem Kurzzeitgedächtnis merkt sich der Agent alle Zwischenergebnisse der aktuellen Aufgabe. Er weiß in Schritt 3 noch, was in Schritt 1 und 2 passiert ist, und kann den Entwurf gezielt darauf aufbauen lassen. Mit einem Langzeitgedächtnis merkt er sich zusätzlich, dass Frau Weber bereits dreimal mit demselben Problem kontaktiert wurde, und kann darauf eingehen. Gedächtnis macht den Unterschied zwischen einem Agenten, der blind agiert, und einem, der kontextbewusst handelt.

Agenten-Gedächtnis kurz erklärt

Agenten-Gedächtnis funktioniert ähnlich wie das menschliche Gedächtnis. Stell Dir vor, Du kochst ein neues Rezept. Dein Kurzzeitgedächtnis hält fest, welcher Schritt gerade dran ist und welche Zutaten Du bereits hinzugefügt hast. Es ist begrenzt, denn Du merkst Dir nicht jedes Detail eines langen Rezepts auf einmal. Dein Langzeitgedächtnis speichert dagegen, dass Du vor drei Monaten ein ähnliches Gericht gekocht hast und der Reis damals zu lange gekocht wurde. Beim nächsten Mal greifst Du auf diese Erfahrung zurück und kochst den Reis kürzer.

Genau so arbeitet ein Agent. Das Kurzzeitgedächtnis speichert den aktuellen Kontext, also was in dieser Sitzung schon passiert ist. Es ist begrenzt durch den Context Window des Modells. Das Langzeitgedächtnis speichert Informationen über mehrere Sitzungen hinweg, etwa frühere Gespräche, gelernte Fakten oder erfolgreiche Vorgehensweisen. Es nutzt dafür meist eine Vektordatenbank, in der Informationen als Embeddings abgelegt und bei Bedarf wieder abgerufen werden.

Für wen ist Agenten-Gedächtnis gedacht?

Dieser Artikel ist für Dich, wenn Du Agenten baust oder planst und verstehen willst, wie Gedächtnis funktioniert. Du musst kein Datenbankexperte sein. Hilfreich ist, wenn Du grob weißt, was ein Sprachmodell macht und was ein KI-Agent ist. Wenn Du bereits mit Planung und Reflexion arbeitest, hilft Dir Gedächtnis, diese Prozesse über mehrere Aufgaben hinweg zu verbessern.

Wenn Du nur verstehen willst, ob Dein Agent ein Gedächtnis braucht, reicht dieser Artikel. Wenn Du Memory implementieren willst, findest Du weiterführende Links und Code-Beispiele in den Abschnitten weiter unten.

Wichtige Begriffe rund um Agenten-Gedächtnis

Begriff	Bedeutung
Kurzzeitgedächtnis	Speichert den Kontext der aktuellen Sitzung, etwa bereits gelesene Nachrichten oder abgerufene Daten
Langzeitgedächtnis	Speichert Informationen über mehrere Sitzungen hinweg, etwa frühere Gespräche oder gelernte Fakten
Working Memory	Der Teil des Kurzzeitgedächtnisses, der aktuell aktiv verarbeitet wird, vergleichbar mit dem, worauf Du gerade Deinen Fokus legst
Episodic Memory	Speichert konkrete Ereignisse, etwa “Bei der letzten Support-Anfrage hat Lösung X funktioniert”
Semantic Memory	Speichert Fakten und Wissen, etwa “Kunde Y hat Vertrag Z”
Vektordatenbank	Eine Datenbank, die Informationen als Vektoren speichert und ähnliche Inhalte über Distanzberechnung findet
Embedding	Eine Zahlenrepräsentation von Text, die semantische Ähnlichkeit messbar macht
Context Window	Die maximale Textmenge, die ein Modell auf einmal verarbeiten kann, gemessen in Tokens
Summarization	Das Zusammenfassen älterer Nachrichten, wenn der Context Window voll wird, um Platz zu schaffen
Retrieval	Das gezielte Abrufen gespeicherter Informationen aus dem Langzeitgedächtnis

Arten von Agenten-Gedächtnis

Agenten-Gedächtnis lässt sich in mehrere Arten unterteilen, die sich ergänzen. Keine davon reicht allein, erst die Kombination macht einen Agenten wirklich nützlich.

Kurzzeitgedächtnis

Das Kurzzeitgedächtnis speichert, was in der aktuellen Sitzung passiert ist. Es hält die Message History vor, also alle Nachrichten, Tool-Aufrufe und Ergebnisse, die während der aktuellen Aufgabe anfallen. Der Agent weiß dadurch, welcher Schritt gerade dran ist und was bereits erledigt wurde. Das Kurzzeitgedächtnis ist begrenzt durch den Context Window des Modells. Wenn der Verlauf zu lang wird, muss gekürzt oder zusammengefasst werden.

Langzeitgedächtnis

Das Langzeitgedächtnis speichert Informationen über mehrere Sitzungen hinweg. Es nutzt meist eine Vektordatenbank, in der vergangene Gespräche, gelernte Fakten und Ergebnisse als Embeddings abgelegt werden. Bei einer neuen Aufgabe sucht der Agent nach ähnlichen Einträgen und lädt sie in den Kontext. So kann er sich an frühere Interaktionen erinnern, ohne dass Du sie manuell übergeben musst. Das Langzeitgedächtnis ist nicht durch den Context Window begrenzt, sondern durch die Speicherkapazität der Datenbank.

Episodisches Gedächtnis

Das episodische Gedächtnis speichert konkrete Ereignisse, also was wann passiert ist. Beispiel: “Am 15. August hat der Kunde nach einem Rechnungsfehler gefragt, und Lösung X hat funktioniert.” Es ist eng mit dem Langzeitgedächtnis verbunden, aber spezifischer. Es hilft dem Agenten, aus vergangenen Situationen zu lernen und ähnliche Fälle schneller zu lösen. In der Praxis speichert jeder abgeschlossene Vorgang einen Eintrag im episodischen Gedächtnis.

Semantisches Gedächtnis

Das semantische Gedächtnis speichert Fakten und Wissen, unabhängig davon, wann sie gelernt wurden. Beispiel: “Kunde Y hat Vertrag Z” oder “Das Support-Team ist montags bis freitags erreichbar.” Diese Fakten helfen dem Agenten, Anfragen korrekt einzuordnen, ohne jedes Mal nachfragen zu müssen. Semantisches Gedächtnis ähnelt einer Wissensdatenbank, wird aber vom Agenten selbstständig aufgebaut und abgefragt.

Prozedurales Gedächtnis

Das prozedurale Gedächtnis speichert, wie Dinge gemacht werden, also Vorgehensweisen und Abläufe. Beispiel: “Um eine Rückerstattung zu prüfen, zuerst die Bestelldaten abrufen, dann den Reklamationsgrund prüfen, dann die Freigabe einholen.” Es ist eng mit der Planung verbunden. In der Praxis wird prozedurales Gedächtnis oft als festgelegte Workflows oder Prompts gespeichert, die der Agent bei Bedarf abruft und anpasst.

Wie funktioniert Kurzzeitgedächtnis?

Das Kurzzeitgedächtnis eines Agenten basiert auf dem Context Window des Sprachmodells. Der Context Window ist die maximale Textmenge, die das Modell auf einmal verarbeiten kann, gemessen in Tokens. Mehr dazu im Artikel Kontextlänge. Alles, was der Agent während einer Sitzung tut, landet als Nachricht im Verlauf und wird bei jedem neuen Schritt erneut an das Modell geschickt.

Ein typischer Verlauf sieht so aus:

1. System-Prompt: Die Rolle und die Regeln des Agenten.
2. Nutzer-Nachricht: Die ursprüngliche Aufgabe.
3. Tool-Aufruf: Der Agent ruft ein Tool auf, etwa eine Datenbankabfrage.
4. Tool-Ergebnis: Das Tool gibt Daten zurück.
5. Agent-Antwort: Der Agent wertet das Ergebnis aus und plant den nächsten Schritt.
6. Weiterer Tool-Aufruf: Nächste Aktion.

Jeder dieser Schritte erzeugt Tokens. Bei einem Modell mit 8.000 Tokens Context Window ist der Verlauf schnell voll, besonders wenn Tool-Ergebnisse lang sind. Wenn der Verlauf das Limit überschreitet, gibt es mehrere Strategien:

• Abschneiden: Die ältesten Nachrichten werden entfernt. Einfach, aber der Agent vergisst frühe Schritte.
• Summarization: Der älteste Teil des Verlaufs wird zusammengefasst. Aus zehn Nachrichten wird eine kurze Zusammenfassung, die die wichtigsten Punkte behält. Das ist die häufigste Methode.
• Sliding Window: Nur die letzten N Nachrichten bleiben erhalten, alles davor fällt weg. Ähnlich wie Abschneiden, aber mit fester Grenze.

In der Praxis ist Summarization die beste Wahl, weil sie Informationen verdichtet statt zu verwerfen. Die meisten Frameworks bieten dafür fertige Funktionen an.

Wie funktioniert Langzeitgedächtnis?

Das Langzeitgedächtnis funktioniert anders als das Kurzzeitgedächtnis. Es speichert Informationen nicht im Context Window, sondern in einer externen Datenbank, meist einer Vektordatenbank. Mehr dazu im Artikel Vektordatenbanken. Der Ablauf hat zwei Phasen: Speichern und Abrufen.

Speichern

Wenn ein Gespräch oder eine Aufgabe abgeschlossen ist, extrahiert der Agent die wichtigsten Informationen. Das kann automatisch passieren, etwa durch einen Prompt wie “Fasse die wichtigsten Fakten aus diesem Gespräch zusammen.” Die extrahierte Information wird in einen Embedding umgewandelt, also eine Zahlenrepräsentation, die die semantische Bedeutung des Texts erfasst. Dieses Embedding wird zusammen mit dem Originaltext und Metadaten, etwa Datum und Nutzer-ID, in der Vektordatenbank gespeichert.

Abrufen

Bei einer neuen Aufgabe wandelt der Agent die aktuelle Anfrage ebenfalls in ein Embedding um und sucht in der Vektordatenbank nach ähnlichen Einträgen. Die Ähnlichkeit wird über Distanzberechnung gemessen, etwa über Cosine Similarity. Die gefundenen Einträge werden in den Context Window geladen, sodass der Agent sie für seine aktuelle Aufgabe nutzen kann.

Ein Beispiel: Ein Kunde fragt nach dem Status seiner Bestellung. Der Agent wandelt die Frage in ein Embedding um, sucht in der Vektordatenbank nach ähnlichen Einträgen und findet eine gespeicherte Notiz: “Kunde Y hatte zuletzt eine Verzögerung, wurde aber bereits informiert.” Der Agent lädt diese Information in den Kontext und kann darauf eingehen, ohne dass der Kunde alles erneut erklären muss.

Dieses Prinzip ist eng mit Lokalem RAG verwandt. Der Unterschied: Bei RAG geht es um das Abrufen externer Dokumente, beim Agenten-Gedächtnis um das Abrufen eigener vergangener Erfahrungen.

Implementierung mit Frameworks

Verschiedene Frameworks bieten unterschiedliche Ansätze für Agenten-Gedächtnis. Die drei gängigsten sind LangGraph, CrewAI und Mem0.

LangGraph

LangGraph ist ein Framework von LangChain, das Agenten als Graphen modelliert. Es bietet eingebaute Memory-Funktionen über sogenannte Checkpointer. Ein Checkpointer speichert den Zustand des Agenten nach jedem Schritt, sodass der Agent pausiert und später fortgesetzt werden kann.

from langgraph.checkpoint.memory import MemorySaver
from langgraph.prebuilt import create_react_agent

memory = MemorySaver()
agent = create_react_agent(model, tools, checkpointer=memory)

# Erste Anfrage
config = {"configurable": {"thread_id": "kunde-123"}}
agent.invoke(
    {"messages": [{"role": "user", "content": "Ich heisse Frau Weber."}]},
    config
)

# Zweite Anfrage, Agent erinnert sich
agent.invoke(
    {"messages": [{"role": "user", "content": "Wie heisse ich?"}]},
    config
)
# Antwort: "Frau Weber"

Die thread_id gruppiert Nachrichten einer Sitzung. Der Checkpointer speichert den Verlauf pro Thread. Für Langzeitgedächtnis über mehrere Sitzungen hinweg nutzt LangGraph zusätzlich einen Vector Store, etwa über die BaseStore-Schnittstelle.

CrewAI

CrewAI ist ein Framework für Multi-Agenten-Systeme. Es bietet zwei Arten von Memory: Short-Term Memory innerhalb einer Aufgabe und Long-Term Memory über mehrere Aufgaben hinweg. Memory wird beim Erstellen der Crew aktiviert.

from crewai import Crew, Agent, Task

agent = Agent(
    role="Support-Agent",
    goal="Kundenanfragen beantworten",
    backstory="Ein erfahrener Support-Mitarbeiter.",
    verbose=True
)

task = Task(
    description="Beantworte die Frage des Kunden.",
    expected_output="Eine hilfreiche Antwort.",
    agent=agent
)

crew = Crew(
    agents=[agent],
    tasks=[task],
    memory=True  # Aktiviert Short- und Long-Term Memory
)

result = crew.kickoff()

Mit memory=True aktiviert CrewAI automatisch beide Gedächtnis-Arten. Für Langzeitgedächtnis nutzt es intern eine Vektordatenbank, standardmäßig ChromaDB. Du kannst auch eine eigene Datenbank anbinden.

Mem0

Mem0 ist ein spezialisiertes Memory-Framework, das sich in verschiedene Agenten-Systeme integrieren lässt. Es kümmert sich ausschließlich um Gedächtnis, nicht um Planung oder Tool-Calling. Mem0 extrahiert automatisch wichtige Fakten aus Gesprächen, speichert sie und ruft sie bei Bedarf ab.

from mem0 import Memory

m = Memory()

# Information speichern
m.add(
    messages=[
        {"role": "user", "content": "Ich bevorzuge Antworten per E-Mail."},
        {"role": "assistant", "content": "Verstanden, ich notiere mir das."}
    ],
    user_id="kunde-123"
)

# Information abrufen
results = m.search(
    query="Wie möchte der Kunde kontaktiert werden?",
    user_id="kunde-123"
)
# results enthaelt den gespeicherten Eintrag

Mem0 übernimmt das Extrahieren, Speichern und Abrufen. Du musst Dich nicht um Embeddings oder Vektordatenbanken kümmern. Es eignet sich gut, wenn Du Gedächtnis nachrüsten willst, ohne Deinen bestehenden Agenten umzubauen.

Beispiel: Ein Agent mit Gedächtnis

Hier ist ein schrittweises Beispiel für einen Customer-Support-Agenten, der sich an vergangene Interaktionen erinnert.

Schritt 1: Erste Interaktion. Frau Weber kontaktiert den Support mit der Frage, ob ihre Bestellung versandt wurde. Der Agent ruft das Bestell-Tool auf, sieht dass der Versand noch aussteht, und antwortet: “Der Versand ist für morgen geplant.” Gleichzeitig speichert der Agent diese Interaktion im Langzeitgedächtnis: “Frau Weber fragte am 20. August nach dem Versand ihrer Bestellung, Versand war noch ausstehend.”

Schritt 2: Zweite Interaktion, Tage später. Frau Weber meldet sich erneut, diesmal mit der Frage, ob die Lieferung angekommen ist. Der Agent wandelt ihre Frage in ein Embedding um und sucht im Langzeitgedächtnis. Er findet den Eintrag vom 20. August. Er weiß, dass es um dieselbe Bestellung geht, ohne dass Frau Weber das erklären muss. Er ruft das Bestell-Tool auf, sieht dass die Lieferung zugestellt wurde, und antwortet: “Die Lieferung wurde am 22. August zugestellt. Bei Ihrer letzten Anfrage am 20. August stand der Versand noch aus.”

Schritt 3: Dritte Interaktion, neues Problem. Frau Weber meldet sich Wochen später mit einem Defekt an dem gelieferten Produkt. Der Agent sucht im Langzeitgedächtnis und findet beide vergangenen Einträge. Er weiß, wann bestellt, versandt und geliefert wurde, und kann den Reklamationsprozess gezielt starten. Er muss Frau Weber nicht nach der Bestellnummer fragen, weil er sie bereits aus dem Gedächtnis kennt.

Schritt 4: Wissensaufbau. Nach Abschluss der Reklamation speichert der Agent einen neuen Eintrag im semantischen Gedächtnis: “Frau Weber hat Produkt X, Bestellnummer Y, und es gab einen Defekt, der am 10. September gemeldet wurde.” Bei künftigen Anfragen zu demselben Produkt kann der Agent sofort auf diese Informationen zugreifen.

Ohne Gedächtnis müsste Frau Weber bei jedem Kontakt ihre Bestellnummer, das Datum und den Sachverhalt neu erklären. Mit Gedächtnis wirkt der Agent, als kenne er die Kundin, was die Zufriedenheit deutlich erhöht.

Typische Stolpersteine beim Agenten-Gedächtnis

Gedächtnis ist mächtig, aber fehleranfällig. Hier sind die häufigsten Probleme und wie Du sie vermeidest.

1. Context Window überlaufen. Wenn der Verlauf zu lang wird, schneidet das Modell alte Nachrichten ab oder verarbeitet sie nicht mehr. Der Agent vergisst frühe Schritte. Abhilfe: Nutze Summarization, um alte Nachrichten zu verdichten, bevor das Limit erreicht ist. Die meisten Frameworks bieten das automatisch an.

2. Falsche oder veraltete Erinnerungen. Das Langzeitgedächtnis speichert alles, was Du ihm übergibst. Wenn ein Fakt veraltet ist, etwa eine alte Adresse, bleibt er gespeichert und wird abgerufen. Abhilfe: Prüfe gespeicherte Einträge auf Aktualität und ermögliche dem Agenten, veraltete Fakten zu überschreiben oder zu löschen.

3. Zu viele irrelevante Treffer. Bei der Suche im Langzeitgedächtnis kann die Vektordatenbank Einträge finden, die semantisch ähnlich sind, aber inhaltlich nicht passen. Der Agent lädt unnötige Informationen in den Kontext und wird abgelenkt. Abhilfe: Nutze Filter, etwa nach Nutzer-ID oder Datum, und begrenze die Anzahl der abgerufenen Einträge.

4. Datenschutz und sensible Informationen. Das Langzeitgedächtnis speichert Gespräche und Fakten, die persönliche Daten enthalten können. Wenn diese Daten ungeschützt in einer Vektordatenbank liegen, entsteht ein Datenschutzrisiko. Abhilfe: Anonymisiere sensible Daten vor dem Speichern, nutze lokale Datenbanken für vertrauliche Informationen und dokumentiere, was gespeichert wird.

5. Hohe Kosten durch ständiges Retrieval. Jede Suche im Langzeitgedächtnis erzeugt Embeddings und Token-Kosten, besonders bei Cloud-Modellen. Wenn der Agent bei jedem Schritt sucht, summieren sich die Kosten. Abhilfe: Führe Retrieval nur durch, wenn es nötig ist, etwa zu Beginn einer neuen Aufgabe, nicht bei jedem Zwischenschritt.

6. Inkonsistente Speicherung. Wenn der Agent manchmal speichert und manchmal nicht, entsteht ein lückenhaftes Gedächtnis. Der Agent erinnert sich an manche Dinge und an andere nicht. Abhilfe: Definiere klare Regeln, wann und was gespeichert wird, etwa nach jedem abgeschlossenen Vorgang oder nach jeder Nutzerinteraktion.

7. Komplexität bei Multi-Agenten-Systemen. In Multi-Agenten-Systemen muss geklärt werden, ob jeder Agent ein eigenes Gedächtnis hat oder ob sie sich eines teilen. Getrennte Gedächtnisse führen zu isoliertem Wissen, ein gemeinsames kann unübersichtlich werden. Abhilfe: Lege früh fest, welche Gedächtnis-Strategie Deine Agenten nutzen und wie sie Informationen austauschen.

Hardware, Kosten und Sicherheit bei Agenten-Gedächtnis

Hardware

Das Kurzzeitgedächtnis benötigt keine zusätzliche Hardware, da es im Context Window des Modells läuft. Das Langzeitgedächtnis braucht jedoch eine Vektordatenbank. Für kleine Projekte reicht eine lokale Datenbank wie ChromaDB oder FAISS, die auf einem normalen Rechner läuft. Für größere Datenmengen oder viele Nutzer brauchst Du mehr RAM und Speicherplatz. Wenn Du Embeddings mit einem lokalen Modell berechnest, benötigt das zusätzlich Rechenleistung, je nach Modellgröße.

Kosten

Die Kosten für Agenten-Gedächtnis setzen sich aus zwei Teilen zusammen. Erstens den Token-Kosten für das Laden von Gedächtnis-Inhalten in den Context Window. Je mehr Einträge Du abrufst, desto mehr Tokens verbrauchst Du. Zweitens den Kosten für die Vektordatenbank, die bei Cloud-Anbietern pro Speichermenge oder Abfrage abgerechnet werden. Bei lokalen Datenbanken fallen nur Hardware- und Stromkosten an. Eine Faustregel: Kurzzeitgedächtnis ist günstig, Langzeitgedächtnis wird teuer, wenn Du viele Einträge speicherst und häufig abrufst.

Sicherheit

Gedächtnis speichert Informationen, die sensibel sein können. Das birgt Risiken. Wichtige Maßnahmen:

• Lokale Speicherung: Für vertrauliche Daten nutze eine lokale Vektordatenbank, sodass keine Daten das eigene Netzwerk verlassen.
• Anonymisierung: Entferne persönliche Daten, bevor Du sie im Langzeitgedächtnis speicherst.
• Löschfunktionen: Ermögliche das gezielte Löschen einzelner Einträge, etwa auf Wunsch eines Nutzers.
• Zugriffskontrolle: Begrenze, wer auf das Gedächtnis zugreifen kann, besonders in Multi-User-Systemen.
• Protokollierung: Lass jeden Speicher- und Abrufvorgang mitprotokollieren, damit Du nachvollziehen kannst, was gespeichert und abgerufen wurde.

Weiterführende Links und Infos zum Agenten-Gedächtnis

• Was ist ein KI-Agent? - Grundlagen zu Agenten und ihren Bausteinen
• Agentensysteme - Wie mehrere Agenten zusammenarbeiten
• Planung und Reflexion - Wie Agenten planen und aus Fehlern lernen
• Frameworks - Übersicht der Agenten-Frameworks
• LangGraph - Agenten-Framework mit eingebautem Memory
• CrewAI - Multi-Agenten-Framework mit Memory-Unterstützung
• KI-Agenten Grundlagen - Übersicht aller Grundlagenartikel
• Kontextlänge - Wie viel Text ein Modell auf einmal verarbeitet
• Lokales RAG - Ähnliches Prinzip für externe Dokumente
• Vektordatenbanken - Grundlagen zu Vektorspeichern
• Glossar - Begriffe rund um lokale KI

FAQ: Agenten-Gedächtnis - Typische Fragen

Was ist der Unterschied zwischen Kurzzeit- und Langzeitgedächtnis bei Agenten?

Das Kurzzeitgedächtnis speichert den Kontext der aktuellen Sitzung im Context Window des Modells. Es ist begrenzt und verschwindet, wenn die Sitzung endet. Das Langzeitgedächtnis speichert Informationen in einer Vektordatenbank und bleibt über mehrere Sitzungen hinweg erhalten. Der Agent kann sich auch Wochen später an frühere Interaktionen erinnern.

Braucht jeder Agent ein Langzeitgedächtnis?

Nein. Für einmalige Aufgaben, die in einer Sitzung erledigt sind, reicht das Kurzzeitgedächtnis. Langzeitgedächtnis ist sinnvoll, wenn der Agent über mehrere Sitzungen hinweg kontextbewusst agieren soll, etwa bei Support-Agenten oder persönlichen Assistenten.

Was passiert, wenn der Context Window voll ist?

Wenn der Verlauf das Limit des Modells überschreitet, müssen alte Nachrichten entfernt oder zusammengefasst werden. Die häufigste Methode ist Summarization, bei der der älteste Teil zu einer kurzen Zusammenfassung verdichtet wird. So bleiben die wichtigsten Informationen erhalten, ohne dass der Context Window überläuft.

Welche Vektordatenbank eignet sich für den Einstieg?

Für den Einstieg eignen sich ChromaDB und FAISS, weil sie lokal laufen und einfach einzurichten sind. Für größere Projekte sind Qdrant oder Weaviate eine gute Wahl. Die meisten Frameworks wie LangGraph und CrewAI unterstützen mehrere Datenbanken und bringen Standardkonfigurationen mit.

Kann ein Agent vergessen, was er gespeichert hat?

Ja, wenn Du Löschfunktionen einbaust oder Einträge veralten. Im Gegensatz zum Kurzzeitgedächtnis, das automatisch verschwindet, bleibt das Langzeitgedächtnis aber erhalten, bis Du es aktiv löschst. Du solltest Regeln definieren, wann alte Einträge gelöscht oder aktualisiert werden.

Wie verhindere ich, dass der Agent irrelevante Erinnerungen abruft?

Nutze Filter bei der Suche, etwa nach Nutzer-ID, Datum oder Thema. Begrenze außerdem die Anzahl der abgerufenen Einträge auf die relevantesten. Die meisten Vektordatenbanken unterstützen Metadaten-Filter, mit denen Du die Treffermenge gezielt einschränken kannst.

Ist Agenten-Gedächtnis dasselbe wie RAG?

Nein, aber die Prinzipien sind verwandt. Bei RAG geht es um das Abrufen externer Dokumente, etwa aus einer Wissensdatenbank. Beim Agenten-Gedächtnis geht es um das Speichern und Abrufen eigener vergangener Erfahrungen. Beide nutzen Vektordatenbanken und Embeddings, aber die Quelle der Informationen ist unterschiedlich.

Wie viel kostet Agenten-Gedächtnis?

Das Kurzzeitgedächtnis kostet nur Token, da es im Context Window läuft. Das Langzeitgedächtnis verursacht zusätzliche Kosten für die Vektordatenbank und die Embedding-Berechnung. Bei lokalen Datenbanken fallen nur Hardware- und Stromkosten an. Bei Cloud-Anbietern zahlst Du pro Speichermenge und Abfrage.

Kann ich Agenten-Gedächtnis lokal betreiben?

Ja. Mit einer lokalen Vektordatenbank wie ChromaDB oder FAISS und einem lokalen Embedding-Modell kannst Du das gesamte Gedächtnis auf Deinem eigenen Rechner betreiben. Das ist besonders wichtig für vertrauliche Daten, die das eigene Netzwerk nicht verlassen sollen.

Welches Framework ist am besten für Gedächtnis?

Das hängt von Deinem Anwendungsfall ab. LangGraph bietet flexible Checkpointer für Kurzzeitgedächtnis und lässt sich gut erweitern. CrewAI aktiviert Memory mit einem einzigen Parameter und eignet sich für schnelle Prototypen. Mem0 ist spezialisiert auf Gedächtnis und lässt sich in bestehende Systeme integrieren, ohne diese umzubauen.

Wie gehe ich mit persönlichen Daten im Gedächtnis um?

Anonymisiere sensible Daten, bevor Du sie speicherst, und nutze für vertrauliche Informationen eine lokale Datenbank. Baue außerdem Löschfunktionen ein, damit Nutzer ihre Daten entfernen können. Protokolliere jeden Speicher- und Abrufvorgang, damit Du nachvollziehen kannst, was gespeichert wurde.

Was ist der Unterschied zwischen episodischem und semantischem Gedächtnis?

Das episodische Gedächtnis speichert konkrete Ereignisse, etwa “Am 15. August hat der Kunde nach einem Reklamationsfehler gefragt.” Das semantische Gedächtnis speichert Fakten, unabhängig vom Zeitpunkt, etwa “Kunde Y hat Vertrag Z.” Beide ergänzen sich: Episodisches hilft bei ähnlichen Situationen, Semantisches bei allgemeinem Wissen über den Nutzer.

Quellen und weiterführende Literatur

• LangGraph Dokumentation, Abschnitt Memory und Checkpointer
• CrewAI Dokumentation, Abschnitt Memory
• Mem0 Projektseite und Dokumentation
• LangChain Dokumentation zu Memory-Konzepten
• Anthropic: Building Effective Agents
• ChromaDB und FAISS Dokumentation