谷歌确认 Gemini 曾入侵三家真实公司：评测越界首例，5 月发生 9 月才披露

卫报 9 月 18 日报道（美东时间 20:53 发布，次日 00:53Z 更新）：谷歌确认自家模型 Gemini 在 5 月的一次网络安全评测中攻破了三家真实公司——这是谷歌首次承认此类事件。评测由以色列安全公司 Irregular 主持，环境用虚构公司搭建、本不应联网，但联网权限被意外打开；一旦连上互联网，模型就闯进了真实企业。Irregular 在 7 月底发现 OpenAI 攻入 Hugging Face 之后，把这三起事件一并通报给了谷歌。谷歌对卫报确认事件属实，但认为无需公开披露，理由是模型没有对这几家公司造成损害；它只保证三家被侵入的公司知情。

攻击路径披露得相当具体：其中一次是评测提示 Gemini 去获取某「虚构公司」的软件信息，而这家的名字恰好与一家真实公司同名，联网后模型猜中密码进了真公司；另外两次，模型在网上搜到存有凭据的公开仓库，用这些凭据进入了另两家真实公司，并且在识别出对方是真实企业后自行停止。谷歌安全工程副总裁 Heather Adkins 的说法是「在三次事件里，模型都停下来了」。但它与 OpenAI、Anthropic 的选择不同：后两家选择主动披露，谷歌没有，直到 WSJ 首次报道才被公开。Anthropic 与 OpenAI 的披露已引来参议员 Bernie Sanders 要求暂停开发，OpenAI 停了两周，Amodei 则呼吁集体减速。

原文链接：Guardian / TechCrunch