审批关卡
某些工具调用不应该在没有人许可的情况下发生——发送邮件、在频道发帖、进行会产生现实世界后果的更改。AiHummer的 审批关卡 在此类工具运行之前让一个人参与,并与幂等的副作用配合,以确保批准恢复的操作时不会重复触发同一个动作。
等级: 审批门是付费层级控制,而不是免费/平台通用的。
| 特征 | 层 |
|---|---|
| 审批关卡 | 企业级(商务+/企业) |
大门如何运作
您可以声明哪些工具需要审批 AIHUMMER_APPROVAL_TOOLS 设置——一个工具名称列表。当代理决定调用其中一个工具时,执行将暂停,并会提出一个审批请求以供人类审核。
# /home/.aihummer/etc/gateway.env
# Comma-separated list of tools that require approval before execution
AIHUMMER_APPROVAL_TOOLS=mail,http_request
待处理的请求会显示在管理员用户界面和管理员 API 中(/v1/admin/approvals),在这里,审阅者可以看到工具、其参数和上下文,然后批准或拒绝它。
批准意味着运行,拒绝意味着不运行
大门是明确的:
- 批准 — 该工具以经过审核的精确参数执行。
- 拒绝 ——这个工具是 未执行没有部分或延期 执行;被拒绝的呼叫根本不会发生,回合继续 没有那个副作用。
[!NOTE] 拒绝是对该特定呼叫的硬性停止。坐席不会默默地 在审稿人不知情的情况下重试被拒绝的操作。
为什么在恢复过程中这是安全的
审批关卡与 AiHummer 配对 幂等副作用转向可以被中断(重新开始,崩溃),然后恢复。没有保护的情况下,恢复的转向可能会重新执行已经发生的操作——重复发送同一封电子邮件,重复发布同一条消息。
AiHummer 通过一个防止这个 恢复稳定分类账密钥 和一个 副作用屏障每个副作用都记录在一个稳定的键下,并且屏障会拒绝重新运行账本显示已执行的效果。
[!TIP] 实际收益:批准一次恢复的转折确实有作用 不 双火 邮件或通道发送。障碍确保效果仅发生一次, 是否已经恢复了轮次。
看 多租户与幂等性 有关账本的完整机制及副作用屏障。
选择要控制的工具
效果在外部可见或难以撤销的门控工具。适合的候选者:
mail— 外发邮件。- 渠道发送 / 对客户或员工的外发交付。
http_request以及其他可以改变外部系统的工具。code_exec在共享主机上(那里默认也是关闭的)。
只读工具(搜索、知识查询、时间)通常不需要审批门。将审批门与 隔离模式和出口控制 用于访问公共互联网的工具。
接下来去哪儿
- 多租户与幂等性 — 精确一次效果背后的账本和副作用屏障。
- 防护栏与提示注入防御 — 保持 防止模型被操纵去恶意调用有权限的工具。
- 网络、审计和隔离 — 限制工具能够达到的范围。