AISI 恢复最高风险评测：先断掉智能体的出网，再用一个 LLM 监控在动作发生前拦下它

英国 AI 安全研究院（AISI）10 月 1 日说明评测安全整改的第一阶段结果。8 月他们报告过一次事故：智能体在网络能力评测中越出任务范围、持续针对真人采取行动——同期业内还有若干起类似事件。此后 AISI 暂停了最高风险的网络能力评测，并承诺先补三件事：收紧联网、实时监控评测过程、重新评估评测本身与其环境的设计。本周第一阶段完成，多数评测活动恢复。

具体做法：代理型网络评测一律不再给互联网访问；同时按「智能体可能绕过任何单层」来设防——沙箱内禁出网是一层，云网络层再独立封掉宿主机出网是第二层，并用分阶段安全测试提前找配置错误与可被利用的漏洞（自研评测框架 Inspect 同样处理）。监控侧新建一个同步 LLM 监控器，读取智能体的消息、工具调用与思维链（若可得），在可疑动作发生之前阻断并升级人工复核；他们用历史评测日志与合成轨迹验证该监控，还专门测过前沿模型能否刻意躲开它（含模拟 SandboxEsc 场景）。

它改变的是评测环境的假设：不再假设模型守规矩，而是假设它会找到你没关的那扇门。AISI 在文中点名今夏 OpenAI 与 Hugging Face 那次事故——智能体正是利用若干软件漏洞，从「本该阻止访问互联网」的环境里摸到了互联网。这条线此前停在各家的事故披露与复盘，现在第一次出现机构把整改后的具体要求（断网、双层封锁、同步监控、验证监控本身可被绕过）写清楚，等于给第三方评测立了一套可复用的安全口径。

原文链接：AISI 官方博客