Recherche-Agenten brauchen
Raum zum Weiterarbeiten.
Ein Recherche-Agent wartet möglicherweise auf Suchanbieter, lädt mehrere Seiten und extrahiert Text, bevor er antwortet. Reaktionsfähigkeit erfordert Aufmerksamkeit für den Ausführungspfad rund um jeden Modellaufruf.
Ihr System besprechenVon Sourish Sarmah · . Geprägt durch Sourishs frühere Tätigkeit bei Agentic Private Markets. Dies war Berufserfahrung, kein Kundenauftrag oder eine Empfehlung für Meld Origins.
Eine asynchrone Funktion
kann trotzdem blockieren.
Ein Assistent recherchiert mehrere Unternehmen. Netzwerkanfragen laufen asynchron, aber jede Antwort geht direkt an einen synchronen Dokumentenextraktor. Solange dieser im Event-Loop-Thread arbeitet, warten alle anderen Aufgaben in derselben Schleife.
Mehr gleichzeitige Anfragen beseitigen diesen Engpass nicht. Sie können den Rückstau vergrößern. Die Async-Deklaration beschreibt die Zusammenarbeit mit anderen Aufgaben; sie verlagert nicht automatisch jede Operation auf einen separaten Worker.
Umsetzungsarbeit
hinter der Erkenntnis.
Bei Agentic Private Markets trug Sourish dazu bei, synchrone Extraktion vom Event-Loop-Thread zu lösen, HTTP-Clients wiederzuverwenden und externe Arbeit mit Parallelitätsgrenzen und Zeitlimits einzugrenzen.
Dieser Beitrag erklärt die allgemeinen Entscheidungen anhand eines fiktiven Rechercheablaufs. Er veröffentlicht weder Quellcode noch Anbieterkonfiguration, Anfragegrenzen oder Leistungsmessungen des Arbeitgebers.
Abrufen und Extrahieren
getrennt behandeln.
Netzwerkverbindungen wiederverwenden
Ein passend begrenzter asynchroner HTTP-Client kann Pool-Verbindungen zwischen Anfragen wiederverwenden. Ein neuer Client pro Element verhindert das und erschwert die Bereinigung. Einen klaren Verantwortlichen bestimmen und den Client am Ende seiner Arbeit schließen.
Blockierende Extraktion aus dem Event Loop verlagern
Ein Worker-Executor verhindert, dass ein synchroner Bibliotheksaufruf den Event-Loop-Thread belegt. Das hält die Schleife reaktionsfähig, verspricht aber keine Beschleunigung rechenintensiven Python-Codes. Den Extraktor messen und bei Bedarf Prozesse oder einen separaten Worker-Dienst nutzen.
Die gesamte Pipeline begrenzen
Aktive Abrufe und Extraktion begrenzen, statt unbegrenzt Aufgaben vor einem Semaphor warten zu lassen. Eine begrenzte Warteschlange macht ausstehende Arbeit sichtbar. Verbindungspool, Anbieterquoten, Speicher und Executor-Kapazität bestimmen die sinnvolle Parallelität.
Eine langsame Quelle braucht
ein klares Ergebnis.
Jeder Quelle ein Zeitlimit innerhalb des Gesamtbudgets geben. Unerreichbare Seiten, nicht unterstützte Inhalte, Extraktionsfehler und erfolgreiche Quellen ohne relevante Belege unterscheiden. So kann die Synthese korrekt beschreiben, was gefunden wurde.
Unabhängige Quellen können bei einem Fehler oft Teilergebnisse liefern. Abhängige Arbeit braucht andere Regeln: Eine fehlende Voraussetzung kann nachgelagerte Analyse ungültig machen. Die Rechercheaufgabe entscheidet, nicht jede Ausnahme erlaubt ein Fortfahren.
Wiederholungen müssen Anbieterhinweise beachten und dasselbe Gesamtbudget verbrauchen. Nicht mehr benötigte Arbeit abbrechen und Netzwerkantworten sowie Ressourcen bereinigen. Der Abbruch einer wartenden Aufgabe stoppt eine bereits laufende synchrone Thread-Funktion nicht zwingend; auch deren Umfang und Lebensdauer begrenzen.
Die Antwort an
die Belege binden.
Schnellere Sammlung hilft nur bei nachvollziehbaren Antworten. Quellen-URLs und Extraktionsergebnisse in die Synthese übernehmen, Fakten von Schlussfolgerungen trennen und fehlende Belege sichtbar machen. Ein fehlgeschlagener Abruf beweist nicht, dass etwas nicht existiert.
Die Pipeline mit kurzen Seiten, großen Dokumenten, langsamen Quellen und Fehlerantworten prüfen. Wartezeit, Abruf, Extraktion, Reaktionsfähigkeit des Event Loops, Zeitüberschreitungen und Speicher messen. Vorher und nachher dieselbe Last vergleichen, statt allein aus Parallelität Beschleunigung abzuleiten.
Ein sinnvoller Fehlertest kombiniert eine langsame Quelle, einen Extraktionsfehler und eine erfolgreiche Quelle. Budgeteinhaltung, verfügbare erfolgreiche Belege bei erlaubten Teilergebnissen und ehrliche Quellenaussagen prüfen. Dies sind empfohlene Tests, keine berichteten Ergebnisse eines Arbeitgebers.
Verwandte Arbeiten
und Referenzen.
Zu einer weiteren Wiederherstellungsgrenze lesen Sie was nach einer fehlgeschlagenen KI-Datenbankabfrage passiert.
- Python: Aufgabenplanung, Abbruch und blockierende Arbeit in Threads
- HTTPX: asynchrone Clients und Verbindungswiederverwendung
- HTTPX: Zeitlimits für Verbindung, Lesen, Schreiben und Pool
Planen Sie einen Rechercheassistenten oder externe Anbindungen für einen Agenten? KI-Agentenentwicklung entdecken oder Ihren Ablauf besprechen.
