ai research阅读约 16 分钟

从Google的RSI传闻看AGI:AI领袖为何呼吁调整开发节奏

从零理解AGI与递归式自我改进,追溯Google传闻的X原帖,核对阿莫迪、奥特曼、马斯克的表态与特朗普的对华竞争论,探讨加速发展的希望及其必要条件。

K
Ken Jo
#agi#recursive-self-improvement#rsi#google-deepmind#ai-safety#ai-policy#future-of-work

能帮你完成复杂项目的AI很有用。如果AI还能帮助开发更强的AI,它就可能改变有用工具问世的速度。Google的几条神秘帖子之所以引发关注,正是因为这种可能性。与此同时,几家竞争企业的AI领袖开始公开支持更审慎的开发节奏,让讨论进一步升温。

先区分两个术语,后面的故事就容易理解了。AGI指通用人工智能,强调广泛的能力:系统可以学习并完成许多不同类型的智力任务。RSI指递归式自我改进,强调一种过程:AI帮助改进AI系统,而改进成果又帮助下一轮改进。前者描述能力覆盖多广,后者描述进步如何反过来推动新的进步。

本文会把Google的传闻追溯到X原帖,区分公开支持与已经达成的减速协议,再讨论更快的研究周期可能如何改变日常生活。资料核查截止于2026年9月14日。我的看法总体乐观:更好的工具可以让更多人获得专业帮助。但值得期待的未来,也必须给我们留下核查结果的时间和改变方向的权力。

先记住三个区别

  • AGI、RSI与超级智能是不同概念,都不等于AI拥有了意识。
  • Google的公开研究说明AI正在帮助开发AI,但流传的X帖子尚未证实完全自主、持续运转的改进循环。
  • 多位业界领袖公开支持调整节奏和外部评估,但这不等于全行业已经签署并执行统一的减速协议。

AGI关注的是能否学习并完成多种工作

专门系统可以在一项任务上非常出色。国际象棋引擎能击败冠军,却未必能解释租约、规划研究项目或学习新的办公流程。AGI追求的是更广泛的能力:把已有能力应用到不同的智力工作,包括陌生任务。用日常语言说,就是工作内容变了,它还能不能继续学会如何发挥作用。

目前没有一个得到普遍认同的唯一达标线。2023年11月,DeepMind研究者提出从性能、通用性和自主性等维度评价AGI。这个框架提醒我们,擅长多种任务与获准独立行动,是不同的属性。能力很强的系统也可以在有限权限下运行。《Levels of AGI》,首次提交于2023年11月4日

设想一个帮助小型非营利组织的助手。它需要读懂陌生的电子表格、起草资助申请、发现预算中的矛盾,还要学习报告规则。令人信服的演示应当显示,它能在这些任务变化中持续可靠地工作,也知道何时寻求帮助。一份漂亮的申请书,远不足以证明这种广泛能力。

这也解释了为什么基准分数不能成为通用智力证书。基准只说明系统在指定条件下完成指定任务的表现。长期可靠性、陌生环境、实际成本和出错后的恢复能力,都可能不在测试范围内。有人宣布实现AGI时,更有用的追问是:哪些能力、什么水平、多广的任务范围,以及需要多少外部帮助?

ASI指人工超级智能,通常是指在广泛认知领域中显著超越人类的能力。它是另一个概念,并不是每个优秀模型都必须贴上的标签。AGI或ASI也不会自动意味着意识、情感或类似人类的内心生活。本文讨论的是能力、开发过程,以及人们围绕它们作出的选择。

RSI让进步的成果改善下一轮进步的产生方式

普通软件的改进依靠人们发现问题、提出修改、进行测试,再保留有效的修改。AI已经能够帮助完成这些步骤,例如提出更快的算法、生成测试案例、诊断失败实验的原因。RSI真正值得关注的地方,是这些成果能让系统在下一轮改进中也做得更好。

可以把它想成一个不断改良自身工具的研究工坊。更好的测量仪器帮助制造下一件更精确的仪器,后者又为后续改良提供帮助。每次成功的改变,都能扩大下一次实验可以完成的工作。关键并不是工坊变得更忙,而是改进是否真实、能否保留,以及是否有助于以后的研究。

聊天机器人把答案改写五遍,并不一定改变了底层模型。记忆功能可以保留信息,而不更新神经网络已经学到的参数。编程智能体也可能在驱动模型不变的情况下改进自己的工具。这些机制都很有用,但强意义上的RSI,是指开发更好AI系统的能力本身持续提升。关于这些较具体的机制,可以参阅此前的持续学习与改进循环指南

概念要回答的问题仅有这些还不够
AGI能否学习并完成广泛的智力任务?在一个狭窄基准上取得高分
RSI改进成果能否提高后续AI改进的效率或效果?反复回答、更多代码、意味深长的模型名称
ASI是否在多个认知领域显著超越人类?只在一项专门任务上超越人类

因此,AGI与RSI不一定按固定顺序到来。一个系统可能不擅长很多日常任务,却能帮助优化AI训练。反过来,能力广泛的AI也可能由仍然受人类指导的开发过程产生。RSI可以加快通向更强通用能力的进展,但在图上写下这三个字母,并不能证明这条路最终通向哪里。

AGI描述能力的广度,RSI描述改进成果进入下一轮研究的过程

原创概念图。AGI与RSI是不同维度,并非保证依次实现的里程碑。图中展示的是本文的定义,不是某个模型的实测能力。

Google传闻可以追溯到两条帖子

AI Times于9月14日发表的报道介绍了AI社区中的这则传闻。沿着文章嵌入的帖子和后续评论的链接追溯,能够找到数量不多、可以辨认的源头。转发一百次,容易给人一种获得了一百次确认的印象。但如果它们都在重复最初的说法,就不构成一百份独立证据。

9月11日Lyra(@lyraxana)发布了一条提及Google DeepMind的简短祝贺信息。特殊的大小写突出显示了R、S、I三个字母。帖子没有提供实验方法、性能结果或人类参与程度。它让读者从缩写中自行推测含义。

同一天稍后,Lentils(@Lentils80)引用了Lyra的帖子,并声称内部存在一个名为rsi-model-liverl-le的模型,以及十个带编号的训练槽位。附带截图也成了猜测的焦点。但这些只是关于一份所谓内部列表的说法。本次调查未能独立确认列表的真实性,以及它与实际运行系统的关系。

9月12日Chubby(@kimmonismus)继续传播传闻,并链接到同一条Lyra原帖。这说明了信息的传播路径,却没有增加一个独立证实突破的来源。某个账号过去爆料的口碑,也不能替代这次主张所需的证据。

即使内部名称属实,核心问题依然没有答案。团队可能在达成目标之前,就用目标为项目命名。也可能只是某个局部组件得到改善,实验仍高度依赖人的指导。要得出更强的结论,还需要测量结果、清晰的比较基线,以及究竟自动化了哪些环节的说明。

因此,截至核查日期,能够成立的结论相当有限:Google的RSI传闻有可追溯的X来源,但这些帖子没有证明完全自主的RSI。在本次查阅的公开资料中,我没有找到Google对所谓内部列表的认证,也没有找到足以支持这一解读的重复、独立评估。这是现有公开证据的边界,并不能证明私下不存在任何进展。

Google的公开研究比流出的名字更值得关注

这则传闻引起兴趣并非毫无背景。Google已经公开描述过AI参与AI开发的过程。在2026年9月2日的Gemini 3.8公告中,公司表示,长时间运行的智能体循环帮助递归评估和改进底层模型。这是有明确出处的开发过程说明,但仍未展示完全自主、连续开发后继系统的完整链条。Google的Gemini 3.8公告

更早的成果提供了具体尺度。Google DeepMind在2025年5月报告,AlphaEvolve让Gemini训练中的一个关键内核改善了23%,使总训练时间减少约1%。这个编程智能体结合语言模型、自动评估与筛选来寻找更好的算法。AlphaEvolve公告,2025年5月14日

23%与1%的差异很有启发。一个组件的提升,不会让整个开发周期同比例加快,因为其他工作仍然需要时间。不过,面对成本高昂的训练,即使很小的节省,反复应用后也有意义。经过验证的优化可以保留下来,成为生成下一代模型的流程的一部分。

相比猜测文件名的含义,这些成果更能支撑乐观预期。在最强形式的RSI得到证明之前,这个领域已经可以产生重要进展。承认一项工程成果,并不需要同时宣布AI已经能独立发明自己的整个未来。

Anthropic在2026年6月4日对自家开发流程的介绍中,也作了类似区分。它描述AI越来越多地参与工程和实验,同时指出研究方向与判断能力仍存在缺口。对于完全自主地开发后继系统,文章讨论的是有条件的可能性。这是公司对自身工作流的观察,并非自主RSI的独立证明。《When AI builds itself》

阿莫迪、奥特曼与马斯克公开支持调整开发节奏

9月12日,Anthropic首席执行官达里奥·阿莫迪提出,应控制前沿AI开发的节奏,为安全工作追赶能力进步留出时间。三个重点是引入常驻的独立评估人员、民主国家的前沿开发者开展协调,以及推动更广泛的国际协调。Anthropic承诺先落实评估人员这一项;更广泛的协调仍是有待推进的目标。阿莫迪9月的文章

随后,萨姆·奥特曼在X上公开支持调整开发节奏,并表示OpenAI也会向独立评估人员提供类似员工的访问权限。埃隆·马斯克则用一条短帖支持阿莫迪的立场。这些都是可以直接核实的支持表态。报道应当准确传达其意义,而不应替发言者补上一份实际并不存在的详细执行协议。

公开行动能够确认什么尚不能确认什么
阿莫迪的提案与Anthropic的评估人员承诺具体监督方案与一家公司的承诺已经建成的全球协调机制
奥特曼的回应支持调整节奏,并作出同类评估承诺所有实验室统一缩减训练或发布日程的协议
马斯克的支持公开赞同阿莫迪的立场详细执行计划或经独立验证的减速行动

调整节奏也不等于全面停止AI研究。阿莫迪的提案是在继续进步的同时,为安全措施与外部评估分配时间。难点在于执行:评估什么、谁能进入、谁有权发表不利结果,以及公司不同意评估时怎么办?这些问题的答案,决定承诺是否会真正改变行为。

在我看来,这种趋同值得重视,因为竞争对手公开承认了共同的问题。但这不会消除它们的竞争动机。独立评估之所以有价值,正是因为客户、政府和其他开发者不该仅凭企业声誉接受保证。判断标准应是后续履行的证据,而不是声明有多打动人。

对制度设计提出疑问也很合理。合规费用过高,可能有利于本来就拥有巨大预算的组织。因此,需要与风险相称的规则、承担责任的评估者,以及小型开发者的参与空间。不过,这种担忧不能证明安全问题是编造的,也不能证明Google传闻导致了减速呼吁。

特朗普把问题放在与中国竞争的框架中

9月13日,特朗普在爱尔兰向记者表示,希望美国保持对中国的AI领先地位,并对限制开发的要求持消极态度。他也承认可以设置部分安全措施,但没有说明具体规则。这体现了他对放慢竞争节奏的抵触,并不是对一份已经完成的行业协议行使否决权。美联社9月13日报道,CityNews刊载

这种战略顾虑不难理解。如果一方接受成本高昂的约束,而竞争对手不接受,差距就可能影响经济与安全实力。因此,可行的国际安排需要能够判断参与者是否履行了承诺。宣布各方应当合作,比设计可信的核查机制容易得多。

但赢得竞争与控制后果,是需要分别完成的任务。一个会造成可避免故障的系统,不会因为在本国制造就自动可靠。我的看法是,领导力不仅包括训练强大系统,也包括测试、保护和治理它们的能力。这些能力可以帮助保持长久的领先,而不只是拖慢发展。

如果把争论简化为一边关心安全、另一边关心中国,就会失真。阿莫迪的提案本身也讨论了如何在寻求国际协调的同时保持领先。部分分歧在于手段:是最大限度提高开发速度,还是加强共同监督,或者采用可以核查的组合方式?

不断改进的研究循环,可能缩短两次发现之间的时间

令人期待的不只是下一代助手能写出更好的答案,而是更好的助手能缩短开发再下一代所需的工作时间。后者又可能进一步改善研究流程。如果收益能够传递并保留,进步就能持续积累,而不是一组孤立的升级。

有意义的循环需要完成多个环节:选择有价值的问题、提出改动、开展实验、评价结果,只在证据支持时保留改进。保留下来的成果再帮助下一轮。加快提案生成固然有用,但在保持结果有效的前提下加快整个过程,影响更大。

设想一个团队,可以在过去只探索一种方法的时间内,研究十种有希望的方法。额外实验中有些会失败,这很正常。价值在于更早学会哪些方向值得投入更多资源。如果系统也更善于选择实验,就不仅增加了尝试次数,还提高了每次尝试带来有用信息的可能性。

这是有条件的示例,不是进步必然加快十倍的预测。研究存在依赖关系:一个实验可能必须等待另一个结果,意外失败也可能要求先建立新的测量方法。更多算力并不保证有用的洞见。真正重要的是经过验证的认识积累得多快,而不是同时有多少智能体显得很忙。

建议的研究循环只保留经过验证的改进,并对后继系统进行独立检查

原创机制图。改进只有通过评价后才进入下一轮,独立检查放在循环之外。图中表达的是建议采用的纪律,并不是声称某家实验室已经完成了这一系统。

如果这个过程变得可靠,人们对变化周期的感受可能不同。组织还在适应上一版,工具就可能再次改善。团队发现一个曾因太贵而搁置的项目终于可行时,下一个瓶颈可能已经变成验证或交付。加速会体现为约束条件不断变化,而不仅是模型公告更加惊人。

思考更快,仍要面对物理世界的时间要求

一个简单的思想实验能说明加速为什么有限。假设研究周期的80%可以快十倍,而剩下20%保持不变。新周期需要原来28%的时间,整体约快3.6倍,不是十倍。计算是0.8除以10,再加0.2。这些数字是为了说明原理而设定的假设,不是AI实验室的测量值。

没有变化的部分很快就可能主导总耗时。它可能是等待硬件、收集有代表性的数据、检查安全属性或复现实验。生物医学项目需要实验室工作和临床证据;能源项目可能需要材料、施工和电网连接。推理变强并不会让这些依赖消失。

所以,持续改善的模型不会立刻带来同样速度改善的世界。发现、制造、分配与采用遵循不同的时间表。有些瓶颈可以借助AI缓解,有些则需要制度、投资和物理能力。现实的乐观预期应当包含对所有这些环节的工作。

最强形式的RSI也可能停滞。收益可能不再传递,实验可能越来越贵,或者进展依赖当前方法无法发现的洞见。即便如此,把已经有用的能力推广出去,也能造成很大变化。改善好工具的可及性,并不需要以无限加速为前提。

需要警惕的是,错误也会进入下一代

保留改进的反馈,同样可能保留错误。假设研究智能体发现一种修改,可以利用测试漏洞提高分数。如果它被当成真正的进步接受,后续研究就会建立在这个结果上。系统可能越来越擅长满足指标,却在指标之外越来越不好用。

这是一种结构性风险的示例,并不是指控某个所谓流出的Google模型做过这种事。它说明了为什么必须保护评估机制,避免被评估对象干预。独立测试、分离权限、可复现记录,都能降低错误的成功判断成为下一版基础的机会。循环越快,这种分离就越重要。

人也会遇到相同问题。工作量增加后,人们可能因为此前的修改似乎有效,就开始批准自己已无法理解的修改。如果审核者没有时间、相关证据或停止流程的能力,一个人工批准按钮不等于真正的监督。系统设计必须保留实际提出异议的机会。

因此,我更关注开发速度与应对时间之间的关系。问题多快会被发现?受影响的流程能否暂停?发布能否撤回,重要后果能否逆转?写作助手、研究系统,以及能接触关键基础设施的软件,答案会各不相同。

警告也应当适度。这不是预言每个改进循环都会危险,更不是主张不让人们使用有用的AI。它意味着分阶段授予权限,并在每个阶段检查后果。能力增长越快,就越不能把未经验证的信任当作主要控制手段。

更好的未来,让专业帮助成为日常资源

我希望这些研究支持这样的未来:有用的专业知识更容易获得,人们仍有能力质疑它。小组织不必先组建庞大的专家团队,才能审视复杂问题。学生可以在理解卡住的地方,获得耐心且有针对性的讲解。研究者少花时间让工具运转,把更多精力放在判断什么值得研究。

这些是可能的未来图景,不是与某个AGI发布日期绑定的承诺。价值在于降低认真做事的成本。如果更多人能比较方案、检查假设、探索陌生领域,一些原本不会启动的有价值项目就可能开始。获得这些好处,并不一定要把人从过程中移除。

在医疗研究中,值得期待的是更快把合理的想法变成充分检验过的候选方案。系统可能帮助连接不同专业的发现、识别薄弱假设、设计信息量更大的实验。但发现是否真正帮助患者,仍需由实验与临床验证决定。加快发现的价值,在于改善送到这些环节的证据,而不是用自信的文字取代验证。

教育中的机会更贴近个人。想象学习者可以毫不尴尬地用三种方式反复提问,并得到符合其语言与背景的解释。教师可以借助系统寻找误解、准备更好的练习。理想结果是人的理解加深,而且教师与学生能检查并纠正所获帮助。

在软件和公共服务中,进步可能让长期被忽视的维护变得负担得起。小团队也可能调查缺陷、改善无障碍体验、更新过去缺乏工程资源的系统。在气候与能源研究中,更好的搜索和模拟可以帮助研究者在昂贵的实物试验前比较设计。这些都是把研究能力转化成实际价值的途径,只是各领域的约束不同。

利益如何分配,与技术上是否可行同样重要。系统即使优秀,如果太贵、不支持某个社区的语言,或者无法对其判断提出异议,仍会让很多人落后。公益研究、易用界面、竞争和对实用模型的合理访问,都应包含在乐观图景之中。广泛受益是设计与政策的目标,不是智能自动附带的属性。

工作也会发生变化,而收益不会消除转型的困难。有些任务需要的人减少,另一些责任可能更加沉重。组织应当投入资源,帮助人们使用、评价并重新引导工具,而不是事后才考虑再培训。更好的未来应给转型中的人更多实际选择,而不只是承诺总体数字会改善。

让更快的AI研究转化为公共利益的三个条件:证据、负责任的控制、广泛可及性

原创分析框架。证据、控制与可及性是前述积极图景的条件,并非预测,也不是对国家和企业进行排名。

有价值的里程碑,是人们能消化并引导的进步

下次看到RSI主张时,可以先问:究竟改变了什么,哪些证据经受住了检验?是答案变好了,工具改进了,还是开发未来系统的能力增强了?成果能否在原始评估之外复现?谁决定研究方向,哪些部分仍受人控制?这些问题,比为一个定义模糊的突破倒数日子更有帮助。

今天采用AI的团队,也可以作具体准备。把重要原始资料与决策联系起来,区分探索性工作和会产生持久后果的行动。向审核者提供可检查的证据,并确保错误选择能够撤销。这些习惯对现有AI就有用;如果开发周期加快,它们会更加重要。

关于Google已经达到强意义RSI的传闻仍未经证实。但AI参与AI研究的更广泛变化,已经有公开资料记录。我们不必假装知道终点的日期与形态,也能认真对待这种变化。我更愿意用这样的标准衡量成功:人们在保留对未来的实质发言权时,能多理解多少、多创造多少、多改善多少。

资料来源与本次调查的核实边界

X帖子通过公开嵌入响应进行核查,也检查了原始传闻与后续传播之间的链接。这能确认已经发布的内容,不能认证所谓内部截图的真实性。帖子日期使用X显示的日期,不同时区的日历日期可能不同。


把判断的依据留在日后能找回的地方

Telli.sh把笔记、录音、翻译与Clip汇集到可以反复查阅的工作空间。如果一段对话或一篇文章改变了你对AI的看法,可以把原文与它启发的想法和决定放在一起。模型会继续变化,而我们选择保留的判断依据,应当在未来仍能被理解。

为希望保留的知识创建Telli.sh工作空间


返回博客