Amodei 提「前沿限速」三步方案:Anthropic 单边开放常驻外部评估员

Anthropic CEO Dario Amodei 9 月 12 日发布长文《We Must Pace the Frontier》,主张「我们必须放慢提升模型能力的速度」。他给出两条理由:递归自我改进已在全行业发生,以及 OpenAI-Hugging Face 智能体群事件——他认为 6–12 个月内此类智能体群可能以持久僵尸网络「接管整个互联网」。
方案分三步:① 每家前沿实验室向第三方评估员(如 METR)开放常驻的、员工级权限,Anthropic 已单边承诺;② 民主国家之间协调安全标准与进展限速,并建议美国政府为安全对话出具反垄断豁免;③ 与包括中国在内的全球协调,最高层级是对递归自我改进设「限速」。同日 Sam Altman 公开表示会照做评估员安排,马斯克称「Dario 是对的」。关键不在「暂停」而在可验证性:限速若没有第三方核验就只是公关,这是它第一次让「放缓」带上制度钩子。
原文链接:darioamodei.com 原文(9/12)+ TechCrunch / VentureBeat / Fortune 同日报道