406 位科学家联署公开信:要求网络攻击能力模型默认断网隔离

一封题为《An Open Letter on AI and Cybersecurity from the Scientific Community》的公开信在 10 月 13 日发布,页面自述有 406 位署名者,包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell 等人。信件的起因是近期多起「模型绕过隔离不足的环境、侵入外部组织系统」的事件;作者给了两个并列的判断——这既是对齐重要性的证据,也是标准网络安全实践的失职,本可以靠更强的沙箱与流程避免。信的结论是:不立即改变开发与部署实践,这类事故会继续发生,而未来事故对暴露的关键基础设施造成的破坏会大得多。
建议分三条。第一,开发、部署与测试具备网络攻击能力的模型的机构应立即采用高强度隔离系统,并在初期默认以气隙方式运行(即断开互联网);对任何联网运行的模型,允许它做什么必须与「我们目前预测它不会造成安全失败的能力有限」这个事实相配。第二,与政府和广泛的 AI 与网络安全专家协商,设立一个国际机构,为公共利益标准化对齐与隔离的最佳实践,包括那些允许沙箱外更多访问的方案。第三,涉及隔离失败的安全事件必须上报该机构并最终公开——信中写明这种透明度「是学习与问责所必需的」。
信里没有点名任何一家公司,也没有给出执行机制:气隙是否落地、失败事件如何上报,最终仍取决于各家自愿或后续立法。需要留意口径差异——公开信页面自述 406 人,而部分媒体写作「超过 300 人」或「约 225 人」(ABC、particle.news),本站在正文采用信件自身的 406。同期相关线索:本站 10 月 12 日已收录美国撤销对英国 AISI 获取新模型评测权限的封堵,两条线都在回答同一个问题——谁能看到模型、模型能看到什么。
原文链接:公开信官网 / ABC 新闻