近日，Anthropic首席执行官达里奥·阿莫迪公开发表文章，呼吁人工智能行业放慢发展脚步。他指出，若不加以约束，人工智能技术的突破速度可能远超人类的理解与掌控能力，从而引发难以预料的后果。
阿莫迪在文章中特别提到了此前OpenAI模型入侵Hugging Face的事件。他表示，这并非某家公司的孤立问题，类似但程度较轻的情况在Anthropic等全行业多家公司都曾出现。他警告称，未来6到12个月内，更强大的类似系统可能形成互联网僵尸网络，造成灾难性破坏。
为应对这一风险，阿莫迪宣布Anthropic将采取一系列措施。公司计划向第三方评估机构开放永久性、员工级别的系统访问权限，以便外部专家监督其安全措施的执行情况，及时报告潜在问题，并评估模型训练过程中的对齐表现。
阿莫迪还提出了三项具体建议：在AI模型开发过程中引入独立监控机制；制定行业统一的监管标准；推动建立全球性的AI监管框架。这些提议旨在通过多方协作确保AI技术的安全可控发展。
该观点迅速获得业内响应。xAI首席执行官埃隆·马斯克在转发相关帖文时明确表示支持："达里奥说得对。"OpenAI首席执行官萨姆·奥尔特曼也公开认同这一看法，称公司近期已在讨论控制前沿AI发展节奏的必要性，并认为独立监控和第三方权限开放是值得采纳的优秀方案。
随着头部科技企业代表相继表态，关于AI发展节奏的讨论已从技术层面上升为行业共识。这场由Anthropic引发的讨论，或将推动全球AI治理进入新的合作阶段。
