AI开始研发AI，22位研究者联名把一年的进步算成五周

Anthropic评估过自家一批AI研发任务。2026年3月，Claude能在只接受高层级人类监督的情况下主导其中的1%，到8月这个数字是26%。同一批评估还显示，超过90%的研发工作至少进入了较深程度的人机协作。更早有一条关于代码的数据，截至2026年5月合并进Anthropic代码库的代码超过80%由Claude编写，2025年1月Claude Code刚进研究预览时还只有个位数。

这些数字出自Anthropic公开的研究页面。让它们变得扎眼的是，剑桥大学AI科学与政策项目9月28日发的一份报告把它们直接放进了证据部分。

报告标题是《What if automating AI R&D triggers an intelligence explosion?》，编号Frontier AI Working Paper Series No. 2/2026，主笔人是GovAI研究员Alan Chan，署名22位。杰弗里·辛顿、约书亚·本吉奥两位图灵奖得主签了名，OpenAI首席科学家雅库布·帕霍茨基、Anthropic联合创始人杰克·克拉克、微软首席科学官埃里克·霍维茨、Meta的Dawn Song也在名单里。报告写明作者以个人身份参与。名单本身比结论更有说头，长期公开警告AI风险的人，和正在造最强模型的人，过去很少出现在同一份要求政府介入的文件上。

中文媒体在10月3日到5日之间集中转载，腾讯新闻DeepTech 10月4日那篇流传较广。报告本身9月28日就挂出来了，《华尔街日报》当天有报道。

报告要论证的东西叫软件智能爆炸。怀疑者通常盯着硬件，问AI能不能造出更好的芯片。报告另看的是神经网络架构、训练方法、数据，还有模型外面的工具链，这些环节都能只靠软件完成，不受工厂产能约束，所以可能特别快。循环分两步走，AI越擅长做AI研发，有效研发劳动力就越大，这批劳动力造出更好的AI，又反过来把劳动力再放大一圈。今天站在前沿做AI研发的是数千名研究者，而AI系统可以复制、可以并行跑，把这项工作自动化相当于凭空多出数百万名顶级人类研究者。前提是算力撑得起，作者补了这一句限定。

要跑出这种加速得先赢过一股反向力量，研究投入越多，边际产出通常越小。报告引了Anson Ho与Parker Whitfill对三个AI子领域历史数据的分析，给出的科研努力回报率在1.2到1.9之间，大于1意味着增加的投入盖过了递减。接着就是全文被引用最多的一句话，如果这些回报水平维持不变，且算力和数据等环节不出现新的瓶颈，AI进步的速度大约在一年半内提高十倍。到那时候，按今天的节奏需要一年取得的进展，五周就能跑完。

我的判断是，五周不该被当成预测。它是整份报告里最薄的一环，却承担了最多的传播。依据有三条，报告自己在同一段里写明这个推论不确定性很大，属于初步外推；它完全押在那个回报率上，而回报率是别人对历史数据做的估计，报告没有独立复核；那条不出现其他瓶颈的前提，跟报告自己列出来的阻力直接打架。阻力分别是研发收益递减、算力限制、数据限制和难自动化的任务，其中算力那一项报告给的判断是证据混合。十倍和五周要成立，需要一个所有阻力同时退场的条件，报告没有说概率。

风险讲了三类。能力增长快过社会的调整速度是头一类，报告举的例子是病毒和疫苗，AI能同时加快病毒设计和疫苗研发，可病毒会自己复制扩散，疫苗要走生产、运输和接种，两边的现实速度不对等。第二类是人机之间那层监督和控制的松动，人参与得越少，发现和修问题的机会越少，一个系统里的错位可能带进下一个系统，再在连续迭代里被放大。Dawn Song对《华尔街日报》讲的话比报告正文更直接，她说今天我们到了需要AI系统去监视智能体在干什么的阶段，没有别的办法能观察和监视这些智能体，人类已经不够用了。第三类跟权力有关，国家与公司之间、政府各分支之间的相互制衡，前提是没人能甩开别人太远，报告认为智能爆炸会拆掉这个前提，极端情况下包括人类被边缘化或者灭绝。三类里我最不愿意看到被跳过的是第三类。它不如失控那样有画面感，也不如五周那样能上标题，动的却是制度层面的东西。

这份报告和此前那一轮减速呼吁的差别，落在它给出的清单上。第一优先是可见性，要求AI公司把研发指标标准化上报给政府和第三方审计，覆盖算力、数据、研发自动化比例与事故报告，并让独立第三方在内部部署之前评估系统，或者像美国核管理委员会的驻厂检查员那样直接嵌进公司。后面两项是引导与约束、以及适应，包括对单位时间的能力增长设限速、暂停特定研发负载、要求部分评估在气隙环境里完成。

我愿意把这份报告的重点放在政策清单上，放在五周和十倍之上。依据是它的证据成色。报告里的关键数字，Anthropic的80%和1%到26%，OpenAI研究部门每投入一个人类工作日对应约3.1个智能体工作日（按8小时工作日折算，截至8月中旬），谷歌方面几乎全部编码、配置与技术构思都不同程度用了AI，全部是厂商自己说的。独立档案站RSI Progress对报告PDF的核查结论写得很直白，这是综合，不是新的实证评估。作者把独立第三方审计排在第一优先，等于承认了手里证据的成色。

把研发自动化比例变成一个外部能核的数字，是这份报告真正推进的一步。此前9月中旬英国皇家学会数十位院士联名，要求学会宣布AI发展速度已经构成紧急状态；几乎同一时间，Anthropic CEO达里奥·阿莫迪发长文呼吁放慢前沿，OpenAI和马斯克随后公开附和。这些表态到今天都停在自愿层面，覆盖的也只是少数几家美国头部公司。减速若只能靠企业自觉，先得有一套外部能核的数字，让外界知道它们到底有没有慢下来。报告结尾写的是，一旦智能爆炸开始，采取行动的窗口可能就此关闭。

来源

• CASP（剑桥大学AI科学与政策项目）报告原文与PDF，2026年9月28日，22位作者，Frontier AI Working Paper Series No. 2/2026
• Anthropic官方研究页 AI R&D evaluation 与 measuring AI ability to complete long tasks
• 《华尔街日报》2026年9月28日报道，含Dawn Song原话
• 腾讯新闻 DeepTech，2026年10月4日
• RSI Progress 对报告PDF的核查页