Rutare
Când sosește un mesaj, se iau două decizii de rutare: care agent ar trebui să se ocupe de asta, și ce clasă de model ar trebui să execute turul. Primul este rezolvat de router; al doilea prin rutarea pe nivel de model. Ambele se întâmplă înainte ca orchestratorul să conducă bucla de apelare a funcției.
Rezolvarea agentului țintă
Routerul rezolvă agentul țintă într-o ordine definită:
- Legături — o corespondență explicită care leagă un canal, o conversație sau context pentru un agent specific. Aceasta este ruta principală, deterministă.
@-mențiuni — într-o conversație de grup, menționarea unui agent după nume direcționează mesajul către acel agent. Așa funcționează rutarea grupului.- Revenire — dacă nimic altceva nu se potrivește, mesajul merge către un configurat agent de rezervă astfel încât o conversație să nu rămână niciodată fără răspuns.
inbound ─▶ binding? ─▶ @-mention? ─▶ fallback ─▶ agent[!NOTE]
@-mențiunile sunt ceea ce face chat-urile de grup cu mai mulți agenți utilizabile: mai mulți agenți pot împarte o conversație, iar fiecare mesaj este livrat celui care a fost numit.
Legături
A legare este coloana vertebrală deterministă a rutării. Prin legarea unui context de intrare (de exemplu un canal sau o conversație specifică) de un agent, obții un comportament previzibil: aceeași sursă ajunge întotdeauna la același agent, cu excepția cazului în care un @-mențiunea o suplinește pentru un singur mesaj.
Legăturile canalului sunt configurate în interfața de administrare: Legături bloca pe Canale pagina atribuie un agent implicit fiecărui canal (per spațiu de lucru). Împerecherea se aplică atunci când sosește o nouă conversație de la canal fără un agent adresat în mod explicit.
[!TIP] Setați o legătură pentru fiecare canal de producție astfel încât rutarea să nu depindă niciodată de rezervă. Rezervează rezervarea pentru traficul cu adevărat necorespunzător.
Rutare pe nivel de model
Indiferent de agentul ales, AiHummer poate redirecționa un rând către un nivel de model în funcție de cât de solicitant este:
| Nivel | Destinat pentru |
|---|---|
| simplu | Viraje scurte și de rutină |
| standard | Munca de zi cu zi |
| complex | Raționament dificil, cu mai mulți pași |
Rutarea pe nivel de model este configurată sub LLM setările routerului. Îți permite să furnizezi modele ieftine și rapide pentru sarcini simple și să rezervi un model mai puternic pentru cele complexe, controlând costurile fără a ajusta manual fiecare agent.
[!NOTE] Rutarea la nivel de model este separată de propriul model per-agent al unui agent. Modelul per-agent este implicit pentru agent; rutarea pe niveluri poate selecta o clasă de modele pentru o anumită tură. Vezi Agenți și persoane.
Unde următor?
- Vezi ce face agentul ales în continuare în Orchestrare și sub-agenti.
- Configurează agenții care stabilesc țintele de rutare în Agenți și persoane.