Rutare
Când sosește un mesaj, se iau două decizii de rutare: care agent ar trebui să-l gestioneze și ce clasă de model ar trebui să ruleze turul. Prima este rezolvată de router; a doua de rutarea pe tier-uri de model. Ambele se întâmplă înainte ca orchestratorul să conducă bucla de apelare de funcții.
Rezolvarea agentului țintă
Router-ul rezolvă agentul țintă într-o ordine definită:
- Bindings — o mapare explicită care leagă un canal, o conversație sau un context de un agent specific. Aceasta este ruta primară, deterministă.
@-mention-uri — într-o conversație de grup, menționarea unui agent după nume rutează mesajul către acel agent. Așa funcționează rutarea de grup.- Fallback — dacă nimic altceva nu se potrivește, mesajul merge la un agent de fallback configurat astfel încât o conversație să nu rămână niciodată fără răspuns.
inbound ─▶ binding? ─▶ @-mention? ─▶ fallback ─▶ agent[!NOTE]
@-mention-urile sunt ceea ce face conversațiile de grup multi-agent utilizabile: mai mulți agenți pot împărți o conversație, iar fiecare mesaj este livrat celui care a fost numit.
Bindings
Un binding este coloana vertebrală deterministă a rutării. Prin legarea unui context
primit (de exemplu un canal sau o conversație specifică) de un agent, obții
comportament previzibil: aceeași sursă ajunge întotdeauna la același agent, dacă un
@-mention nu îl suprascrie pentru un singur mesaj.
Bindings-urile de canal se configurează în interfața de administrare: blocul „Bindings” de pe pagina „Canale” atribuie agentul implicit pentru fiecare canal (în cadrul workspace-ului). Binding-ul se aplică atunci când o conversație nouă vine dintr-un canal fără un agent indicat explicit.
[!TIP] Setează un binding pentru fiecare canal de producție, astfel încât rutarea să nu depindă niciodată de fallback. Rezervă fallback-ul pentru trafic cu adevărat nepotrivit.
Rutarea pe tier-uri de model
Independent de care agent este ales, AiHummer poate ruta un tur către un tier de model în funcție de cât de solicitant este:
| Tier | Intended for |
|---|---|
| simple | Tururi scurte, de rutină |
| standard | Muncă de zi cu zi |
| complex | Raționament dificil, în mai mulți pași |
Rutarea pe tier-uri de model este configurată sub setările de router „LLM”. Îți permite să servești modele ieftine și rapide pentru tururi simple și să rezervi un model mai puternic pentru cele complexe, controlând costul fără a regla manual fiecare agent.
[!NOTE] Rutarea pe tier-uri de model este separată de modelul propriu per agent al unui agent. Modelul per agent este valoarea implicită a agentului; rutarea pe tier-uri poate selecta o clasă de model pentru un tur dat. Vezi Agenți și persona.
Unde mergi mai departe
- Vezi ce face agentul ales în continuare în Orchestrare și sub-agenți.
- Configurează agenții pe care îi țintește rutarea în Agenți și persona.