Anthropic警告AI已开始自我进化 呼吁全球暂停研究

---

# 经典科幻成真？AI显露自我进化迹象！

一项关于人工智能（AI）具有自我构建能力的大胆论断，在Anthropic公司日前发布的重磅论文《When AI Builds Itself》（当AI构建自身）中被提出。该论文指出，如果现有趋势持续发展并获得足够的算力支持，最终可能导致AI系统能够完全自主地设计和开发其下一代系统，这一过程被称之为“递归自我提升”（recursive self-improvement）。

Anthropic的研究人员在论文中坦言：“我们尚未到达那一步，递归式自我提升也并非必然。然而，它的到来可能比大多数机构所预想的更早。”他们呼吁世界应考虑“放缓或暂时暂停前沿AI的发展步伐”，以便让社会规章体系及“对齐”（即确保AI目标与人类一致）研究能够跟上技术进步的速度，这将是有益的做法。

随之，Anthropic宣布：“Anthropic研究所将与外部利益相关者合作，开展深入研究，思考日益强大并可能具备自我改进能力的系统将带来的影响，以及如何让世界有能力对这项技术的未来发展路径作出审慎的选择。”

值得关注的是，Anthropic官方在X平台上的补充说明进一步澄清了观点：“这一切并不能保证递归自我提升的临近。目前尚不清楚Claude（Anthropic开发的AI模型）是否具备‘研究判断力’——即选择正确问题去解决的能力。”

研究表明，这种自我进化的路径可能呈现三个阶段。首先是“专家阶段”，AI获得系统设计的特殊能力。其次是“构建者阶段”，AI擅长处理系统设计中的模糊概念。最终是“设计者阶段”，AI能够解决核心目标的模糊性问题。然而，这也会使“对齐”（控制）问题变得极其复杂。

Anthropic强调，自我进化机器人的出现，在医学、技术和经济等多个层面都具有为人类社会带来革命性进步的潜力；但与此同时也可能加剧“对齐”的难题，最终导致风险失控。这一未来的到来，正迫使人类不得不提前深思。