Bramki zatwierdzające
Niektóre wywołania narzędzi nie powinny mieć miejsca bez ludzkiej zgody — wysyłanie maili, publikowanie na kanale, wprowadzanie zmian mających rzeczywiste konsekwencje. AiHummer bramki zatwierdzające Włącz osobę do procesu zanim takie narzędzia zostaną uruchomione i sparuj to z niezmiennymi efektami ubocznymi, tak aby zatwierdzenie odzyskanego kroku nigdy nie uruchamiało tej samej akcji dwa razy.
Poziom: bramki zatwierdzające są kontrolą dostępną w płatnym planie, a nie darmową/ogólną dla całej platformy.
| Funkcja | Poziom |
|---|---|
| Bramki zatwierdzające | Klasa korporacyjna (Biznes+/Korporacja) |
Jak działa brama
Deklarujesz, które narzędzia wymagają zatwierdzenia za pomocą AIHUMMER_APPROVAL_TOOLS ustawienie — lista nazw narzędzi. Gdy agent zdecyduje się wywołać jedno z tych narzędzi, wykonanie zostaje wstrzymane, a zgłoszenie zatwierdzenia jest wysyłane do przeglądu przez człowieka.
# /home/.aihummer/etc/gateway.env
# Comma-separated list of tools that require approval before execution
AIHUMMER_APPROVAL_TOOLS=mail,http_request
Oczekujące żądanie pojawia się w interfejsie administracyjnym i API administracyjnym (/v1/admin/approvals), gdzie recenzent widzi narzędzie, jego argumenty i kontekst, a następnie zatwierdza je lub odrzuca.
Zatwierdź oznacza uruchom, odrzuć oznacza nie uruchamiaj
Bramka jest jednoznaczna:
- Zatwierdź — narzędzie wykonuje się z dokładnie tymi argumentami, które zostały przejrzane.
- Odrzuć — narzędzie jest nie wykonano. Nie ma częściowego ani odroczonego wykonanie; odrzucone wywołanie po prostu nie ma miejsca, a tura trwa dalej bez tego skutku ubocznego.
[!NOTE] Odrzucenie jest twardym zatrzymaniem dla konkretnego połączenia. Agent nie robi tego w milczeniu ponownie spróbuj wykonać odrzuconą akcję za plecami recenzenta.
Dlaczego to jest bezpieczne podczas odzyskiwania
Bramki zatwierdzające współpracują z AiHummer’s niezmienne skutki uboczne. Tura może zostać przerwana (restart, awaria), a następnie wznowiona. Bez ochrony wznowiona tura mogłaby ponownie wykonać akcję, która już miała miejsce — wysyłając tego samego e-maila dwukrotnie, publikując tę samą wiadomość ponownie.
AiHummer zapobiega temu za pomocą wznowienie-stabilny klucz księgi i bariera skutków ubocznych: każdy efekt uboczny jest zapisywany pod stabilnym kluczem, a bariera odmawia ponownego uruchomienia efektu, który dziennik pokazuje jako już wykonany.
[!TIP] Praktyczny efekt: zatwierdzenie odzyskanego ruchu robi nie podwójny ogień mail lub channel-send. Bariera zapewnia, że efekt zachodzi dokładnie raz, czy zakręt został odzyskany, czy nie.
Zobacz Wielodostępność i niezmienność dla pełnej mechaniki księgi i bariery efektów ubocznych.
Wybór narzędzi do ochrony
Narzędzia bramkowe, których efekty są widoczne zewnętrznie lub trudne do cofnięcia. Dobre kandydatury:
mail— wychodzący e-mail.- Wysyłka kanałowa / dostawa wychodząca do klientów lub personelu.
http_requesti inne narzędzia, które mogą mutować zewnętrzne systemy.code_execna współdzielonych hostach (również domyślnie wyłączone tam).
Narzędzia tylko do odczytu (wyszukiwanie, wyszukiwanie wiedzy, czas) zazwyczaj nie wymagają bramy. Połącz bramy zatwierdzające z tryb izolowany od sieci i kontrole wyjścia dla narzędzi, które łączą się z publicznym internetem.
Dokąd dalej
- Wielodostępność i niezmienność — rejestr i bariera efektów ubocznych stojące za efektami dokładnie raz.
- Barierki ochronne i ochrona przed wstrzykiwaniem promptu — kontynuować model przed zostaniem nakierowanym na uznanie narzędzia zabezpieczonego za szkodliwe.
- Sieć, audyt i oddzielona od sieci — ograniczać, do czego mogą dotrzeć narzędzia.