AI巨头突然喊停：全球应暂停AI研发！AI要失控了？
当全球科技公司都在争分夺秒研发更强大的人工智能时，一家站在行业最前沿的AI公司却突然发出了截然不同的声音：也许，我们应该先停一停。
近日，人工智能公司Anthropic通过旗下研究机构——人类学研究所（Anthropic Institute）发布长篇报告，呼吁全球主要人工智能实验室认真考虑放缓甚至暂停前沿AI研发，并警告称，人工智能可能比外界预想得更快进入“递归式自我改进”（Recursive Self-Improvement）阶段，即AI开始在没有人类直接参与的情况下不断改进自己。
这一表态迅速引发科技界和学术界热议。尤其令人关注的是，发出警告的并非行业外部批评者，而是正在与OpenAI、Google、Meta和xAI激烈竞争的AI领军企业之一。
AI可能很快学会“自己训练自己”
此次发声的并非Anthropic公司的商业部门，而是其内部研究机构——人类学研究所（Anthropic Institute）。
该机构成立的目标是研究人工智能如何影响社会、经济、政治以及未来人类发展，并尝试为AI治理和安全问题提供政策建议。
研究所负责人玛丽娜·法瓦罗（Marina Favaro）与Anthropic联合创始人杰克·克拉克（Jack Clark）共同撰写了这篇引发关注的文章。
他们认为，人类社会正在接近一个此前从未经历过的技术节点，而政府、监管机构以及公众对这一变化的准备远远不足。
报告中最受关注的内容，是对“递归式自我改进”的讨论。
简单来说，就是：过去，AI模型需要工程师设计架构、编写代码、训练模型、测试效果；未来，AI可能自己完成这些工作。也就是说，AI不仅能写代码，还能设计下一代AI、优化训练流程、改进自身能力，并持续循环下去。
Anthropic表示，虽然这一阶段尚未真正到来，但一些迹象已经出现。
根据公司披露的数据：
* Claude已经参与编写公司超过80%的代码；
* 工程团队每季度交付代码量约为2025年前的8倍；
* AI辅助研发正在快速提高模型迭代速度。
研究人员认为，这些变化显示行业正朝着自我改进方向前进。
报告警告称： 一旦AI能够自主设计和训练下一代AI，人类可能越来越难对技术发展保持有效控制。
一边呼吁暂停，一边准备上市
面对潜在风险，Anthropic提出了一个颇具争议的建议：如果条件允许，全球主要AI实验室应该共同减缓甚至暂时暂停最前沿AI系统的开发。
报告写道：“如果世界能够选择放缓或暂停前沿人工智能研发，使社会制度、治理框架和安全研究能够跟上技术发展的速度，那么这将是一件有益的事情。”
不过Anthropic也承认，任何暂停都必须是全球性的。因为如果只有部分企业停止研发，而其他竞争者继续推进，那么暂停的一方将失去竞争优势。因此他们建议建立类似国际核武器条约的验证机制，确保所有参与者都遵守协议。但他们同时坦言，这件事甚至可能比核查核武器更困难。因为： “训练一次AI模型，比隐藏导弹发射井容易得多。”
让外界更加关注的是，这场“暂停AI”的呼吁出现的时间点非常微妙。就在不久前，Anthropic刚刚启动上市准备工作。
据报道，公司已经秘密提交IPO文件，并完成新一轮融资，估值达到约9650亿美元，接近1万亿美元大关。与此同时，公司收入也正在快速增长。
按照行业常用的年化收入（Run Rate）计算：2025年底约为90亿美元； 预计本月底有望达到500亿美元。
目前Anthropic已经成为OpenAI最强劲的竞争对手之一，两家公司都被视为未来几年最有可能主导AI产业格局的企业。
因此，不少人质疑：一家正在冲刺上市、估值接近万亿美元的AI公司，为何此时突然呼吁放慢整个行业的发展速度？
批评者：这是安全担忧还是竞争策略？
事实上，Anthropic长期以来都面临类似质疑。一些批评者认为，公司频繁强调AI风险，客观上可能有利于推动更严格的行业监管，从而提高后来者和开源模型的进入门槛。
特朗普顾问、风险投资人David Sacks此前就曾公开指责Anthropic推行所谓的“监管俘获议程”，认为其打着AI安全旗号限制竞争。
他特别担心，相关监管最终可能打击开源模型的发展。还有人认为，Anthropic此前限制发布高性能网络安全模型的做法，也带有一定营销色彩——既展示了产品能力，又强化了公众对其技术先进性的认知。对此，Anthropic方面否认相关指控，强调公司内部许多研究人员是真正相信AI长期风险的人。
关于AI究竟离“通用人工智能”（AGI）还有多远，学术界至今没有统一答案。宾夕法尼亚大学沃顿商学院教授、AI研究学者Ethan Mollick表示，大型AI实验室内部本身就存在不同声音。
他说：一家AI公司既是价值数千亿美元甚至上万亿美元的商业机构，同时又聚集着大量研究未来技术发展的科学家，而这两种角色之间有时会产生冲突。
另一方面，著名人工智能先驱Yann LeCun则持完全不同观点。LeCun长期认为，当前基于大型语言模型的系统距离真正的人类智能仍相当遥远。他甚至曾将现阶段AI的智能水平比作猫，而非接近人类。
因此，对于“AI即将失控”的担忧，他一直持怀疑态度。
Anthropic首席执行官Dario Amodei近年来一直是AI风险最积极的警告者之一。
他曾多次表示：
* AI可能加剧社会财富不平等；
* 大量入门级白领岗位可能被替代；
* 功能极强的新一代AI系统可能在未来几年内出现；
* 这些系统的发展方向未必总能被人类准确预测。
Anthropic联合创始人杰克·克拉克最近在伦敦演讲时甚至预测：“递归式自我改进”有可能在未来两年内出现，甚至更快。他警告称，如果各国和企业继续以当前速度展开竞争，而缺乏协调机制，那么商业利益和地缘政治竞争可能会掩盖更重要的问题——人类是否已经准备好迎接这种技术。
值得注意的是，Anthropic并未声称AI已经实现自我进化，更没有断言灾难即将发生。
相反，该公司反复强调：递归式自我改进尚未到来，也并非必然发生。但他们认为，社会留给讨论和制定规则的时间可能正在减少。
未来几个月，人类学研究所计划邀请政策制定者、研究人员、企业以及民间组织共同参与讨论，研究如何验证AI研发活动、如何建立全球协调机制，以及当AI能力进一步提升时，人类社会应当如何应对。
对于整个AI产业而言，这场争论的核心或许已经不再是“人工智能会不会更强”，而是另一个更现实的问题：当AI开始帮助人类创造下一代AI时，人类是否仍然能够决定技术发展的方向和速度。
https://fortune.com/2026/06/05/anthropic-ai-pause-development-recursive-self-improvement/
