谷歌说 AI 没在加速自己，三条风险线却写着无法排除

10 月 13 日，谷歌 DeepMind 随 Gemini 4 Argon 一起放出了一份《安全与安全报告》。报告里夹着一章不太像安全报告的内容，是这家实验室第一次公开自己内部机器学习研发的自动化数据。

最先被拿出来说的是代码。DeepMind 超过 75% 的生产代码现在由 AI 写。这个比例往下追，2024 年 10 月大约四分之一，去年秋天到一半，今年涨过四分之三。

同一份报告里紧跟着另一个数字。约 88% 的代码变更仍然需要人来多轮引导，或者干脆由人自己写，提交之前每一笔都要人看一遍。整件事交给 AI、人完全不插手的那部分，从 4 月的 7.5% 涨到 9 月的 11.9%。

两个数字放在一起，说的是产出在涨，把关没松。

DeepMind 用来量能力的是一套自家搭的指数，叫 GCI v1，把 123 个模型在 92 项基准上的分数合成一个数，一个模型一个数。参与这项评估的研究员 Haydn Belfield 在 10 月 14 日的 X 帖子里说，前沿 Gemini 的能力涨幅是每个月约 0.1 个点，从 2024 年底到 2026 年 9 月基本贴着一条直线。Argon 是这条线上唯一明显偏高的点，大约 3.3，误差棒向下伸到能碰到趋势线。Belfield 把这一截归因于算力和组织投入的增加。

报告还翻了一组内部轨迹。1,389 条 Argon 当智能体干活的日志里，任务越大，模型自己干完的概率越低，人插手的次数越多。内部的 RE-Bench 有 74 道真实机器学习工程题，Argon 大概解出一半，远低于 DeepMind 自己给完全自动化划的 90% 红线。

我的判断是，这份报告最值得读的地方，在于它把不利的数字一起印了出来。一家公司自审、说自己的技术还没有危险到自我加速，立场天然偏向一边，这一点要先摆明。但 75% 和 88% 并列出现，说明写报告的人没在挑数据。代码产出是好看的那个，人工参与是不好看的那个，两个都留着。

报告另一头挂着更硬的一组结论。同一份 Gemini 4 Argon 的模型卡里，谷歌写明它对生物信息风险、网络安全攻击能力这两条关键能力线无法排除，对隐蔽与情境感知这条受关注能力线也无法排除。关键能力线是谷歌前沿安全框架里的警戒线，意思是模型到了这个水平，缺了额外防护就可能帮人造成严重后果。谷歌的处置办法是各自补一份安全论证，说明已经装上的防护把风险压回了线以下。

无法排除不等于已经出事。按谷歌自己的规则，碰到线要做的是加防护、补论证，发布本身不受影响。谷歌也确实在那天把 Argon 向付费用户全量放开了。

把它和同一份文件里那句「AI 驱动研发的风险现阶段较低」放在一起读，观感会变。一个模型在生物信息、网络攻击、规避监管这三条线上都没能排除风险，报告却给出研发自动化风险偏低的结论。这两件事在谷歌的框架里是分开量的。前者问模型会干什么，后者问模型能不能自己造出更强的自己。

就在同一天，arXiv 上挂出另一篇稿子，结论几乎相反。这篇叫 Athanor 的论文由字节跳动、杜克大学、芝加哥大学和弗吉尼亚理工的作者联署，10 月 15 日提交。四个 Claude Opus 5.5 智能体各占一个八卡节点，在沙箱里自主做后训练研究，跑满 104 小时，中途不给任何研究建议，也不许调用外部教师模型。结果是把 Qwen3-4B-Base 在六题开发集上从 15.9 拉到 67.3，超过官方指令版 Qwen3-4B-Instruct-2507 的 66.5；在一套智能体看不见的保留集上，48.2 对官方 47.9。作者自己写明，智能体用的是已知方法的重新组合，没有发明新方法。整场实验消耗 3,086 个 GPU 小时，连算力带推理约 11,800 美元。论文没给代码仓库，也还没有第三方复现。

两篇同一天出来的东西指向不同答案，这差不多就是眼下的真实状态。谷歌的样本是自家一个实验室、自家一个模型家族，结论只在自家测量里成立。Athanor 的样本是一次实验、一个 40 亿参数的小模型，作者自认没有新方法。前者说整条曲线没弯，后者说一个窄任务已经被完全自动化。两条都能站住，因为它们量的不是同一件事。

回到那个 75%。如果只记一个数字，我会记 88%。它说的是 AI 能写完的活里，还有多大一块需要人站在旁边。DeepMind 在报告里的说法是，自动化在有明确答案、能验证的任务上最有效，在开放式科研构想、实验设计这类地方最弱。这句话在全文里位置很轻，却能解释代码比例为什么能冲到 75%，而 11.9% 迟迟上不去。代码正好是 AI 最擅长的那类活。

接下来要看的是那条线本身。Belfield 提到一个信号，如果某个时间点上 GCI 的月增幅稳定超过 0.1，而算力投入没有同步跳升，那就到了自我改进派一直在等的那一刻。在那之前，DeepMind 自己的账本上记着一条直线，和一堆还在读代码的人。

来源
Google DeepMind，Gemini 4 Argon Safety & Security Report，2026 年 10 月 13 日
Google DeepMind，Gemini 4 Argon 模型卡，Frontier Safety Framework 关键能力评估，2026 年 10 月 13 日
Haydn Belfield，X 长帖，ML R&D 自动化与加速的首次整体评估，2026 年 10 月 14 日
Decrypt，2026 年 10 月，Google Says AI Isn't Building Itself Yet
arXiv 2610.21055，Athanor，An Agent-Native System for Autonomous Post-Training Research，2026 年 10 月 15 日提交