AI 资讯聚合 · 榜单评测

DeepMind 首份内部审计:AI 写了 75% 生产代码,却没测到自我加速

海外榜单评测自我改进安全报告Google DeepMind · 2026-10-14 · 约2分钟 · 来源:DeepMind 安全报告 / The Decoder
DeepMind 首份内部审计:AI 写了 75% 生产代码,却没测到自我加速

DeepMind 在 Gemini 4 Argon 的安全报告里放出第一份「AI 是否在加速 AI 研发」的内部审计,结论是否定的:自建的能力指数 GCI 把 123 个模型在 92 个基准上的成绩合成单一分数,显示前沿 Gemini 的能力以每月约 0.1 点的速度稳定爬升,2026 年 4 月 1 日前后分别是 0.091 点与 0.118 点,差异不具统计显著性。团队把这一轮的能力提升归因于算力与组织投入,而不是 AI 自己写代码带来的加速。

但自动化本身已经很高:DeepMind 的生产代码超过 75% 由 AI 生成,完全委派的代码改动占比从 4 月的 7.5% 升到 9 月的 11.9%;即便如此,约 88% 的改动仍需人做多轮指令修正或直接写代码,每次提交前都有人审阅。内部 RE-Bench 的 74 个真实 ML 工程任务里,Argon 智能体独立解决约一半,Gemini 3.7 Flash 为 27%;对 1,389 次 Argon 智能体运行的复盘显示,任务越复杂、无人介入时成功率下降越明显。

这份审计的定位要看清楚:它是厂商对自家实验室内部数据的自测,没有独立复现,也明确不能排除不受限的 Argon 在网络安全或生物信息方向越过风险阈值。它的价值在于给「递归自我改进已经开始」的行业论断提供了一个可对账的反例——报告里最像自动化趋势线的数字,是那个从 7.5% 走到 11.9% 的完全委派比例;团队把 ML 研发加速的当前风险评为低,同时开始搭建长期测量基础设施。

原文链接:DeepMind 安全报告 / The Decoder

核验记录
定日 2026-10-14(审计结论经 DeepMind 研究员 Haydn Belfield 对外说明之日);报告与模型卡的官方发布日为 10-13(官方博文页 blog.google/innovation-and-ai/technology/safety-security/gemini-4-model-safety-security/ 直读 977,777 字节,JSON-LD `datePublished 2026-10-13T18:00:00+00:00`)。⚠ 本机未直读官方正文:官方 PDF(storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf 与 Model-Cards/Gemini-4-Argon-Model-Card.pdf,均直读 200 / 约 4.3 万–44.5 万字节)用 skill 的 pdf_min_text.py 与自写 FlateDecode+Tj 抽取均为 0 可读字符(CID 字体),官方博文页正文也不含这些数字。上述数字(75% / 7.5%→11.9% / 88% / GCI 每月 0.1 点与 0.091→0.118 / RE-Bench 74 题约一半、3.7 Flash 27% / 1,389 次运行)取自 Decrypt(10-15)、The Decoder(10-15)、CryptoBriefing(10-15)三家独立报道的逐项一致口径;若后续能解析 PDF,应回校一遍。配图两向均 200、PNG 1,157,109 字节(Argon 官方 key art)。