Researchagenter har brug for
plads til at arbejde videre.
En researchagent kan vente på søgetjenester, hente sider og udtrække tekst før sit svar. Responsivitet kræver opmærksomhed på udførelsen omkring hvert modelkald.
Drøft jeres systemAf Sourish Sarmah · . Baseret på Sourishs tidligere arbejde hos Agentic Private Markets. Det var ansættelseserfaring, ikke en kundeopgave eller anbefaling af Meld Origins.
En asynkron funktion
kan stadig blokere.
En assistent undersøger virksomheder. Netværksanmodninger er asynkrone, men svar går direkte til en synkron dokumentudtrækker. Mens den kører i hændelsesløkkens tråd, må andre opgaver vente.
Flere samtidige anmodninger fjerner ikke flaskehalsen og kan skabe mere kø. Async-deklarationen beskriver samarbejde mellem opgaver; den flytter ikke automatisk alle handlinger til en worker.
Implementeringsarbejdet
bag erfaringen.
Hos Agentic Private Markets bidrog Sourish til at flytte synkront udtræk væk fra hændelsesløkken, genbruge HTTP-klienter og begrænse eksternt arbejde med samtidighedskontrol og timeout.
Artiklen forklarer generelle valg med en fiktiv arbejdsgang. Den offentliggør ikke arbejdsgiverens kode, leverandøropsætning, anmodningsgrænser eller ydelsesmålinger.
Behandl hentning og
udtræk hver for sig.
Genbrug netværksforbindelser
En afgrænset asynkron HTTP-klient kan genbruge forbindelser fra en pool. En ny klient pr. element mister den mulighed og komplicerer oprydning. Giv klienten en ejer og luk den efter arbejdet.
Flyt blokerende udtræk væk fra løkken
En worker-executor forhindrer synkrone bibliotekskald i at optage hændelsesløkken. Det bevarer responsivitet, men lover ikke hurtigere CPU-tung Python-kode. Profilér udtrækkeren og overvej processer eller en separat tjeneste.
Begræns hele forløbet
Begræns aktive hentninger og udtræk, og planlæg ikke ubegrænset mange opgaver foran en semafor. En begrænset kø gør ventende arbejde synligt. Forbindelsespulje, kvoter, hukommelse og executor-kapacitet sætter grænser.
En langsom kilde skal
have et klart udfald.
Giv hver kilde en frist inden for totalbudgettet. Skeln mellem utilgængelig side, ikke-understøttet indhold, udtræksfejl og kilde uden relevante fund. Det hjælper syntesen med at beskrive de faktiske fund.
Uafhængige kilder kan ofte levere delresultater, hvis én fejler. Afhængigt arbejde kræver andre regler: en manglende forudsætning kan ugyldiggøre analysen. Lad opgaven afgøre, om man fortsætter.
Genforsøg skal følge leverandørens råd og samme totalbudget. Annullér unødvendigt arbejde og frigiv svar og ressourcer. Annullering stopper ikke nødvendigvis en synkron funktion, der allerede kører i en tråd; afgræns også dens levetid.
Knyt svaret
til dokumentationen.
Hurtigere indsamling hjælper kun, når svaret er sporbart. Medtag kildeadresser og udtræksresultater, adskil fakta fra slutninger og vis manglende dokumentation. En mislykket hentning beviser ikke fravær.
Evaluér korte sider, store dokumenter, langsomme kilder og fejlsvar. Mål køtid, hentning, udtræk, responsivitet, timeout og hukommelse. Sammenlign samme belastning før og efter frem for at antage forbedring ud fra samtidighed alene.
En nyttig fejltest kombinerer en langsom kilde, en udtræksfejl og en vellykket kilde. Kontrollér budget, bevaret dokumentation ved delresultater og at svaret ikke antyder kontrol af alle kilder. Det er anbefalinger, ikke arbejdsgiverens resultater.
Relateret arbejde
og referencer.
Læs om en anden genopretningsgrænse i hvad der sker, når en AI-genereret databaseforespørgsel fejler.
- Python: planlægning, annullering og blokerende arbejde i tråde
- HTTPX: asynkrone klienter og genbrug af forbindelser
- HTTPX: timeout for forbindelse, læsning, skrivning og pool
Planlægger I en researchassistent eller forbinder en agent til eksterne systemer? Se implementering af AI-agenter eller drøft jeres arbejdsgang.
