Anthropic呼吁全球放缓前沿AI研发警告AI“自我改进”风险

上证报中国证券网讯 Anthropic当地时间4日晚在社交平台发布公司研究院所撰写的文章。文中提及，当下大模型迭代已呈现递归自我提升（Recursive Self-Improvement，RSI）特征，即人工智能可在无人类介入的前提下，自主完成能力设计和升级。

文中数据显示，如今，Anthropic的工程师平均每个季度交付的代码量是2021年至2025年期间的8倍；截至2026年5月，Anthropic合并进代码库的代码中，超过80%由Claude编写。

文章认为，在未来几年，人工智能系统将变得更加强大，递归自我提升的人工智能可以在科学、医疗保健等领域为世界带来巨大的利益。但是，Anthropic研究院提醒，人工智能完全递归自我提升可能增加系统失控的风险，不断加速自身构建与人类世界、人际关系和治理方式等碰撞。Anthropic呼吁，如果世界可以选择放缓或暂时中止前沿AI的研发，从而使社会结构和协调研究能够跟上技术发展的步伐，这对世界大有裨益。