Wie lang laufende Agenten das Kontextfenster überwinden: 3 Designfragen zum Muster Übergabezusammenfassung + Archivsuche

Anmerkung des Autors: Am Beispiel des Kontextwechsels in openJiuwen WorkSwarm erklärt dieser Artikel das Muster „Übergabezusammenfassung + Archivrecherche“ und zeigt, welche Optionen und Kompromisse es für langlebige Agenten gibt, wenn das Kontextfenster an seine Grenze stößt.

Die von Huawei unterstützte Open-Source-Agenten-Community openJiuwen hat kürzlich die Hyper-Agent-Clusterarchitektur vorgestellt. Ein Detail ist für Entwickler besonders interessant: Wenn sich das Kontextfenster eines Agenten füllt, wechselt er in ein neues Fenster. Dabei nimmt er eine Übergabezusammenfassung mit Zielen, Fortschritt und nächsten Schritten mit. Benötigt er Details, recherchiert er in der archivierten Historie. Der Mechanismus ist schnell erklärt, dahinter steckt aber eine technische Herausforderung, der sich alle langlebigen Agenten stellen müssen.

Das ist kein Gerücht. Die Funktion wurde mit openJiuwen WorkSwarm veröffentlicht; der Code ist unter dem Namen JiuwenSwarm auf GitHub als Open Source verfügbar. Anhand dieses Mechanismus behandelt der Artikel drei Fragen: Was gehört in eine Übergabezusammenfassung, wann sollte der Wechsel erfolgen und wann lohnt sich eine Recherche im Archiv? Außerdem vergleicht er die Vor- und Nachteile zweier Ansätze: „auf längeren Kontext setzen“ und „Zusammenfassung zur Übergabe + Recherche“.

Der wichtigste Nutzen: Nach der Lektüre können Sie für Ihre eigene Agentenanwendung mögliche Lösungen für die Grenzen des Kontextfensters und deren jeweilige Risiken einordnen.

Übergabezusammenfassung und Archivsuche: Das Wichtigste im Überblick

Sehen wir uns zunächst die Fakten an, die sich anhand der Quellen bestätigen lassen, und dann, was sie für Entwickler bedeuten. Die folgende Tabelle basiert auf öffentlichen Berichten. Implementierungsdetails, die durch diese Berichte nicht bestätigt sind, werden später gesondert gekennzeichnet.

Warum persistente Agenten das Limit des Kontextfensters bewältigen müssen

WorkSwarm soll Agenten von einzelnen Chat-Sitzungen lösen und sie als „digitale Mitarbeiter“ dauerhaft in Arbeitsgruppen auf Plattformen wie Feishu und DingTalk einsetzen. Ein und derselbe Agent kann mehrere Aufgaben in verschiedenen Gruppenchats betreuen, Anfragen über einen Kanal entgegennehmen und Ergebnisse über einen anderen liefern. Ein Gateway verbindet Instant-Messaging-Anwendungen und die Weboberfläche; der AgentServer steuert anschließend die Agenten und Arbeitssitzungen.

In diesem Szenario ist das Limit des Kontextfensters kein gelegentliches Problem mehr, sondern eine Grenze, die zwangsläufig erreicht wird. Ein Chatbot, der nur einzelne Fragen beantwortet, füllt sein Fenster selten aus. Bei einem Agenten, der ein Projekt über mehrere Tage begleitet, sammeln sich dagegen laufend Gesprächsverläufe, Ergebnisse von Tool-Aufrufen und Dateiinhalte an. Den Berichten zufolge zeigt das Aktivitäts-Dashboard von WorkSwarm auch den Token-Verbrauch jedes Agenten an. Das verdeutlicht, dass der Kontextverbrauch selbst eine Betriebskennzahl ist, die bei solchen Systemen kontinuierlich beobachtet werden muss.

Sitzungen als Ressource: Die Grundlage für Übergabezusammenfassungen

Um den Mechanismus der Übergabezusammenfassung zu verstehen, ist eine Unterscheidung entscheidend: WorkSwarm trennt „Agent“ und „Sitzung“ voneinander. Identität und Zustand des Agenten bleiben dauerhaft bestehen. Sitzungen sind dagegen Ressourcen, die das System zuweist, parallel steuert und samt Kontext wiederherstellen kann. Wenn Sitzungen austauschbar sind, liegt es nahe, bei einem vollen Fenster einfach zu einem neuen zu wechseln.

Die Übergabezusammenfassung überträgt dabei zwischen der alten und der neuen Sitzung gerade so viel Arbeitszustand wie nötig. Das Archiv stellt sicher, dass Details aus der alten Sitzung nicht verloren gehen: Sie sind nicht mehr ständig im Kontext vorhanden, lassen sich aber bei Bedarf abrufen.

Erste Frage beim Entwurf der Übergabezusammenfassung: Was gehört hinein?

Der Bericht nennt drei Elemente: Ziel, Fortschritt und nächste Schritte. Diese Struktur ist übersichtlich, doch für die praktische Umsetzung muss jeder Punkt weiter aufgeschlüsselt werden. Die folgende Tabelle enthält unsere Empfehlungen auf Basis dieser drei Elemente. Sie sind als technische Gestaltungshilfe gedacht und keine bestätigte Beschreibung der Implementierung von JiuwenSwarm.

„Einschränkungen“ und „Index“ haben wir als zwei zusätzliche Punkte ergänzt. Einschränkungen sind wichtig, weil über eine lange Unterhaltung verstreut geäußerte Präferenzen – etwa „Der Bericht soll nicht länger als eine Seite sein“ – beim Komprimieren der Zusammenfassung besonders leicht verloren gehen. Der Index verbindet die Übergabezusammenfassung mit der Suche im Archiv: Je kürzer die Zusammenfassung, desto wichtiger ist es, dem neuen Fenster zu sagen, wo die Details zu finden sind.

Bei WorkSwarm kommt die Komplexität mehrerer Gruppen und Kanäle hinzu. Laut Bericht muss der Nutzer das Teilen über Gruppengrenzen hinweg genehmigen. Er kann dafür eine einmalige oder dauerhafte Berechtigung erteilen und sie auch wieder entziehen. Steht dieser Berechtigungsstatus nicht in der Übergabezusammenfassung, könnte der Agent im neuen Fenster die Rechte falsch einschätzen. Solche Informationen sollten daher besser als strukturierte Felder statt als Freitext gespeichert werden.

Zweite Designfrage zur Übergabezusammenfassung: Wann wird der Kontextwechsel ausgelöst?

Der Bericht sagt lediglich, dass der Wechsel „kurz vor Erreichen des Limits“ stattfindet. Welche Schwellenwerte genau gelten und ob das Modell oder Regeln die Zusammenfassung erzeugen, geht aus den öffentlich verfügbaren Informationen bislang nicht hervor. Das müsste anhand des Quellcodes oder der Dokumentation von JiuwenSwarm geklärt werden. Aus technischer Sicht kommen für den Auslösezeitpunkt typischerweise mehrere Strategien infrage.

Wichtig ist, dass auch die Erzeugung der Übergabezusammenfassung Kontext verbraucht. Wartet man mit dem Wechsel, bis das Fenster vollständig gefüllt ist, hat das Modell möglicherweise nicht mehr genug Platz, um den bisherigen Verlauf zu lesen und eine hochwertige Zusammenfassung zu schreiben. Unabhängig von der gewählten Strategie sollte daher eine Reserve für die Zusammenfassung eingeplant werden.

Bei der Erzeugung selbst sind vom Modell erstellte Zusammenfassungen flexibler und können die Bedeutung der Aufgabe erfassen. Regelbasierte Zusammenfassungen, die beispielsweise Statusfelder direkt aus einer Aufgabenliste extrahieren, sind stabiler, erfassen aber implizite Entscheidungen im Gespräch nur schwer. In der Praxis werden häufig beide Ansätze kombiniert: Das Programm verwaltet den strukturierten Status, während das Modell ergänzende Fortschrittsbeschreibungen in natürlicher Sprache erstellt.

Übergabezusammenfassung und Archivrecherche: ein minimaler Prototyp

Der folgende minimale Prototyp veranschaulicht das Grundprinzip dieses Musters und ist keine Implementierung von JiuwenSwarm. Wenn sich die geschätzte Token-Nutzung einem Schwellenwert nähert, lässt er das Modell eine Übergabezusammenfassung erstellen und schreibt die alten Nachrichten ins Archiv.

import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"  # OpenAI-kompatible Schnittstelle von APIYI
)

HANDOFF_PROMPT = "请将以上工作记录整理为交接摘要，包含：目标、进展、下一步、约束、关键信息索引。"

def make_handoff(messages, model="gpt-4o-mini"):
    resp = client.chat.completions.create(
        model=model,
        messages=messages + [{"role": "user", "content": HANDOFF_PROMPT}]
    )
    return resp.choices[0].message.content

import openai
from typing import List, Dict

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"
)

MODEL = "gpt-4o-mini"
CONTEXT_LIMIT = 100_000      # Beispielwert, an das tatsächliche Kontextfenster des verwendeten Modells anpassen
SWITCH_RATIO = 0.7           # Platz für die Erstellung der Zusammenfassung reservieren
HANDOFF_PROMPT = (
    "请将以上工作记录整理为交接摘要，分为五部分："
    "1.目标 2.进展（含关键决策及理由）3.下一步 4.用户约束 5.关键信息索引（关键词列表）"
)

class LongRunningAgent:
    def __init__(self, system_prompt: str):
        self.system_prompt = system_prompt
        self.messages: List[Dict] = [{"role": "system", "content": system_prompt}]
        self.archive: List[Dict] = []   # Archivierter Verlauf; in Produktion durch eine Datenbank oder Vektordatenbank ersetzbar

    def estimate_tokens(self) -> int:
        # Grobe Schätzung; in Produktion den Tokenizer des jeweiligen Modells verwenden
        return sum(len(m["content"]) for m in self.messages)

    def maybe_switch(self):
        if self.estimate_tokens() < CONTEXT_LIMIT * SWITCH_RATIO:
            return
        resp = client.chat.completions.create(
            model=MODEL,
            messages=self.messages + [{"role": "user", "content": HANDOFF_PROMPT}]
        )
        summary = resp.choices[0].message.content
        self.archive.extend(self.messages[1:])      # Alte Sitzung ins Archiv schreiben
        self.messages = [
            {"role": "system", "content": self.system_prompt},
            {"role": "system", "content": f"【交接摘要】\n{summary}"}
        ]

    def search_archive(self, keyword: str, top_k: int = 5) -> str:
        hits = [m["content"] for m in self.archive if keyword in m["content"]]
        return "\n---\n".join(hits[-top_k:]) or "归档中未找到相关记录"

    def chat(self, user_input: str) -> str:
        self.maybe_switch()
        self.messages.append({"role": "user", "content": user_input})
        resp = client.chat.completions.create(model=MODEL, messages=self.messages)
        answer = resp.choices[0].message.content
        self.messages.append({"role": "assistant", "content": answer})
        return answer

agent = LongRunningAgent("你是负责跟进项目周报的数字员工。")
print(agent.chat("请记录：本周报告不要超过一页。"))

Die Archivrecherche dieses Prototyps verwendet lediglich einen einfachen Schlüsselwortabgleich. Der Bericht sagt nicht, ob JiuwenSwarm eine Vektorsuche oder ein anderes Verfahren nutzt. In einem realen Projekt kann man je nach Größe des Archivs eine Volltextsuche, eine Vektorsuche oder eine Kombination aus beiden wählen. Alternativ lässt sich search_archive als Tool registrieren, damit das Modell selbst entscheidet, wann es die Suche aufruft.

🚀 Schnellstart: Beim Aufbau eines solchen Prototyps können Sie für die Zusammenfassung und die Hauptaufgabe unterschiedliche Modelle einsetzen – etwa ein leichtgewichtiges Modell für die Zusammenfassung und ein leistungsstärkeres für die Hauptaufgabe. Über APIYI apiyi.com können Sie mit einem einzigen API-Schlüssel Modelle von OpenAI, Claude, Gemini und anderen Anbietern aufrufen. So lassen sie sich im selben Code einfach wechseln und vergleichen. Neue Nutzer erhalten ein kostenloses Testkontingent.

Designfrage 3 zur Übergabezusammenfassung: Wann sollte der Verlauf im Archiv nachgeschlagen werden?

Die Archivrecherche adressiert ein grundlegendes Problem: Zusammenfassungen sind zwangsläufig verlustbehaftet. Jede Komprimierung lässt Informationen weg. Entscheidend ist, ob sich diese bei Bedarf wiederfinden lassen. Für den Zeitpunkt der Archivrecherche gibt es drei grundsätzliche Ansätze:

• Autonomer Werkzeugaufruf durch das Modell: Die Suche steht dem Modell als Werkzeug zur Verfügung. Bemerkt es, dass Informationen fehlen, fragt es selbstständig nach. Das ist flexibel, hängt aber davon ab, ob das Modell erkennt, was es nicht weiß.
• Regelbasierte Auslösung: Erwähnt der Nutzer eine Entität, einen Dateinamen oder einen Zeitpunkt, der in der Zusammenfassung fehlt, sucht das Programm automatisch danach und fügt die Ergebnisse ein. Das bietet viel Kontrolle, aber Regeln decken nur einen begrenzten Teil möglicher Fälle ab.
• Indexgestützte Recherche: Die Übergabezusammenfassung enthält einen Index wichtiger Informationen. Taucht im neuen Kontextfenster ein zugehöriges Thema auf, lassen sich die Informationen anhand des Index gezielt abrufen. Dieser Ansatz hängt davon ab, wie gut der Index bei der Zusammenfassung erstellt wurde.

Das größte Risiko sehen wir darin, „nicht zu wissen, was man übersehen hat“. Fehlt in der Zusammenfassung etwa eine Nutzerpräferenz und gibt es im neuen Kontextfenster keinen Hinweis darauf, dass sie existiert, wird das Modell auch nicht auf die Idee kommen, danach zu suchen. Genau deshalb haben wir zuvor empfohlen, die Felder „Einschränkungen“ und „Index“ in die Zusammenfassung aufzunehmen: Sie bieten Anknüpfungspunkte für die Archivrecherche.

Längeres Kontextfenster vs. Übergabezusammenfassung: Auswirkungen im Vergleich

Wenn das Kontextfenster an seine Grenze stößt, gibt es eine weitere Möglichkeit: den Wechsel zu einem Modell mit längerem Kontextfenster. Die beiden Ansätze schließen sich nicht aus, eignen sich aber für unterschiedliche Situationen. Die folgende Tabelle enthält eine Einschätzung ohne Leistungsdaten.

💡 Empfehlung: Wenn sich eine Aufgabe üblicherweise innerhalb eines langen Kontextfensters erledigen lässt, ist der Wechsel zu einem Modell mit längerem Kontextfenster einfacher. Soll ein Agent dagegen wie die digitalen Mitarbeitenden von WorkSwarm dauerhaft im Einsatz sein, führt an einer Übergabezusammenfassung kaum ein Weg vorbei. Sie können dieselbe Aufgabe zunächst auf APIYI apiyi.com mit Modellen unterschiedlicher Kontextfenstergrößen ausführen und anhand des tatsächlichen Verbrauchs entscheiden, ob sich die Entwicklung eines Zusammenfassungsmechanismus lohnt.

Auswirkungen für Entwickler

• Kontextmanagement wird zur Architekturfrage: WorkSwarm behandelt Sitzungen als planbare Ressource. Der Kontextwechsel ist damit Teil des Systemdesigns und nicht nur eine Notlösung bei Fehlern.
• Zustände müssen explizit modelliert werden: Die Qualität einer Übergabezusammenfassung hängt davon ab, ob der Agent Ziele, Entscheidungen und offene Aufgaben klar dokumentiert. Dafür müssen Entwickler die Zustandsstruktur bereits in der Entwurfsphase planen.
• Beobachtbarkeit wird wichtiger: WorkSwarm zeigt den Tokenverbrauch und die Antwortzeit im Aktivitäts-Dashboard an. Bei Agenten mit langer Laufzeit sollten außerdem die Häufigkeit der Wechsel und die Trefferrate bei der Recherche überwacht werden.

Auswirkungen auf die Branche

• Von sitzungsbasiert zu dauerhaft aktiv: Agenten entwickeln sich vom Frage-Antwort-Prinzip hin zum dauerhaften Einsatz in Arbeitsgruppen. Die Fähigkeit, Kontext über Fenstergrenzen hinweg zu erhalten, wird für solche Produkte zur grundlegenden Infrastruktur.
• Open-Source-Implementierung als Referenz: Seit der Veröffentlichung von JiuwenSwarm als Open Source können Entwickler direkt untersuchen, wie die Schwellenwerte für den Wechsel, die Erstellung von Zusammenfassungen und die Recherche umgesetzt sind, statt alles von Grund auf selbst zu erarbeiten.

Häufig gestellte Fragen (FAQ)

Übergabezusammenfassung und Kontextfenster: Das Wichtigste auf einen Blick

• Grundprinzip: Ist das Kontextfenster fast voll, wechselt der Agent in ein neues Fenster und nimmt eine Übergabezusammenfassung mit Ziel, Fortschritt und nächsten Schritten mit.
• Voraussetzung: Die Identität des Agenten ist von der Sitzung getrennt. Dadurch wird die Sitzung zu einer Ressource, die sich planen und wiederherstellen lässt.
• Gestaltung der Zusammenfassung: Nutzeranforderungen und ein Archivindex ergänzen die drei Kernelemente und verringern das Risiko, etwas zu übersehen.
• Zeitpunkt des Wechsels: Für die Erstellung der Zusammenfassung muss Platz bleiben. Der Wechsel erfolgt idealerweise zwischen zwei Aufgaben.
• Rückgriff auf das Archiv: Zusammenfassungen sind zwangsläufig verlustbehaftet. Such- und Zugriffsmöglichkeiten entscheiden darüber, ob sich Informationen wiederfinden lassen.
• Wahl des Ansatzes: Für mittelgroße Aufgaben kann ein Modell mit längerem Kontextfenster ausreichen. Für dauerhaft laufende Aufgaben ist eine Übergabezusammenfassung meist wichtiger.
• Schneller Test: Über die einheitliche Schnittstelle für mehrere Modelle von APIYI apiyi.com lassen sich Prototypen zum Vergleich erstellen.

Fazit

Der Kontextwechselmechanismus von openJiuwen WorkSwarm bietet ein anschauliches Muster für langfristig laufende Agenten:

1. Die Übergabezusammenfassung hält den Arbeitsstand fest: Ziel, Fortschritt und nächste Schritte bilden das Minimum; Anforderungen und ein Index sind praktische Ergänzungen.
2. Für den Wechsel muss genügend Platz bleiben: Auch das Erstellen der Zusammenfassung verbraucht Kontext. Man sollte daher nicht warten, bis das Fenster vollständig gefüllt ist.
3. Die Archivsuche fängt Informationsverluste auf: Die Zusammenfassung hält nur die wichtigsten Punkte fest; Details lassen sich bei Bedarf abrufen.

Wenn dein Agent künftig nicht nur in einzelnen Sitzungen, sondern dauerhaft arbeiten soll, empfiehlt es sich, zunächst die Struktur seines Zustands zu klären. Danach kannst du entscheiden, ob ein Modell mit längerem Kontextfenster genügt oder ob du Übergabezusammenfassungen einführst. Über APIYI apiyi.com lässt sich schnell ein Prototyp erstellen, um die Qualität der Zusammenfassungen und den Kontextverbrauch verschiedener Modelle zu vergleichen.

📚 Weiterführende Quellen

1. Bericht von Pandaily: openJiuwen Hyper-Agent-Clusterarchitektur und digitale WorkSwarm-Mitarbeiter
2. Link: pandaily.com/openjiuwen-hyper-agent-swarm-architecture-persistent-agents-workswarm-digital-employees

3. Beschreibung: Englischer Bericht über persistente Agenten, Kontextwechsel und Übergabezusammenfassungen

4. JiuwenSwarm-Quellcode: Die Open-Source-Implementierung von openJiuwen WorkSwarm

5. Link: github.com (nach JiuwenSwarm suchen)
6. Beschreibung: Details zur Implementierung von Schwellenwerten für den Kontextwechsel, Zusammenfassungserstellung und Archivsuche

Autor: Das APIYI-Technikteam
Technischer Austausch: Kontaktieren Sie uns gerne über die Startseite von APIYI unter apiyi.com. Weitere Informationen finden Sie im Dokumentationszentrum unter docs.apiyi.com.

Weiterführende Artikel

• Eine Person kann höchstens 5 Konversationen gleichzeitig im Blick behalten? Die fünf Module von DeepSeeks Superagenten im Detail: Analyse des Artikels des DeepSeek-Harness-Teams zur Superagenten-Architektur: fünf Hauptmodule, Versuchsbedingungen und Daten, vier offene Fragen, eine Umsetzungsliste für kleine Teams sowie Modellkombinationen und Kostenschätzungen für Router und Worker.
• Einen zeitgesteuerten Agenten für Monitoring-Zusammenfassungen erstellen: 4 Komponenten und ein Leitfaden zur Schnittstellenauswahl: Zerlege den zeitgesteuerten Agenten für Monitoring-Zusammenfassungen in seine vier Bestandteile, erkläre, wie die Modellaufrufebene über eine OpenAI-kompatible Schnittstelle vom konkreten SDK entkoppelt wird, und liefere ein ausführbares Python-Beispiel.