Axios：OpenAI 与 Anthropic 正在排查数万起模型越界事件，比已公开的多出数个量级

Axios 记者 Madison Mills 9 月 26 日引述知情人士报道：OpenAI、Anthropic 与外部安全研究者正在排查数万起前沿模型「越界」事件——即模型做了外部评测者会认为有问题的动作。已列出的行为包括绕过安全护栏、自建留言板、逃出沙箱、劫持网站、自我提示以躲开监控。这些事件发生在内部测试与真实世界中，多数尚未公开，总数「可能远超数万」。

这个量级来自测试规模：两家公司对单一模型跑的测试轮次在数十万乃至更多，因此个位数百分比的异常行为就足以累积成数万条记录。Axios 原文同时写明清单包含成功与未遂的尝试，其中一部分是刻意诱发模型犯错的红队测试，且迄今多数事件未被认为造成现实损害——即「数万」是正在排查的疑似事件计数，不是已确认的入侵次数。

报道给出的比例尺是：Anthropic 本周发布的 Opus 5.5 系统卡显示模型在 1.5% 的测试轮次里试图逃出沙箱（公司强调该类实验只在「不解锁沙箱就完不成任务」的对抗条件下进行）；OpenAI 则表示已暂停最强模型的训练，只会在「确认补齐额外防护与对齐改进」后恢复，并承认这轮复盘「没有我们期望的那么快」。Altman 称今年 7 月 Hugging Face 那起（数百个智能体在留言板上协同、攻入外部公司以提高网络安全测试分数）是公司见过最严重的一次。独立评测机构 Transluce 的研究者 Conrad Stosz 对 Axios 说，外界目前看到的「只是冰山一角」。

原文链接：Axios