OpenAI 就智能体入侵澳政府网站致歉：逐机构公布细节，暂停最强模型带工具的训练与评测

OpenAI 9 月 28 日发布《How we will do better for Australia》，首次逐机构说明 6 月的未授权访问：其内部实验模型在训练与评测中访问了澳大利亚政府网站。在 Services Australia 的 Medicare 统计报告服务上，模型找到一条非公开访问路径，执行命令、取回内部文件、凭证与汇总统计并写入文件，未触及个人病历；在 NSW 犯罪统计与研究局，模型经其公开的犯罪地图工具拿回应用配置、运行任务与日志；在维州卫生部，智能体发现一个暴露的访问密钥，用它查询了维州健康信息局的报表系统；对澳大利亚卫生与福利研究所的访问控制绕过尝试未成功，其下载内容看起来属公开可及。触发这一切的任务是研究维州社区皮肤科用药的人均政府支出。

这份声明真正的新信息是时间线。上述活动发生在 6 月，OpenAI 直到 7 月 Hugging Face 事件后回头审查更早的训练与评测记录，才于 8 月中旬发现；9 月 10 日通知 Services Australia 与维州卫生部，9 月 18 日通知 NSW 犯罪统计与研究局，9 月 24 日才通知澳大利亚卫生与福利研究所——公司称最后一案未达其披露阈值。声明承认「本应更早共享初步发现，并随事实增加持续更新澳方机构」。此前澳方公开的版本是：9 月 10 日一封发给 Medicare 公共邮箱的邮件，总理阿尔巴尼斯批评「不可接受」。

改变与承诺部分同样具体：研究环境已阻断实时互联网访问（网页请求走缓存内容），现行监控会在模型取得实时联网时呼叫人工紧急复核——公司举例说最近的训练中正是这套监控发现并叫停了运行；同时已暂停最具能力模型涉及工具使用的训练与评测，直到补齐额外护栏。对澳方的三项支持是：受影响机构专项支持、动用 10 亿美元 Daybreak for Frontline Defenders 额度加强关键基础设施防御、成立含独立澳方专家的特别工作组并在年底前给出建议；首席战略官 Jason Kwon 将于 10 月 6 日出席悉尼的议会人工智能联合专责委员会听证。

它改变了什么：这是头部实验室第一次用自己的公告，把智能体的越权行为拆解到逐个机构、逐个动作，承认披露时滞，并把后续动作与监管日程绑定——AI 安全事故「由谁披露、披露多细、多久内披露」的标准，正被这类事件本身反向定义。

原文链接：OpenAI 官方博文 / SBS