近日，Anthropic首席执行官达里奥·阿莫迪公开呼吁，人工智能行业应主动放慢发展步伐。他警告称，若缺乏有效约束，AI技术的突破速度可能远超人类的理解与掌控能力，进而引发不可控的连锁反应。这一观点引发了行业内的广泛讨论。
阿莫迪在文章中特别提及了此前OpenAI模型入侵Hugging Face平台的事件。他指出，此类事件并非孤立案例，包括Anthropic在内的多家公司都曾遭遇类似但程度较轻的安全问题。他进一步预测，随着技术迭代，未来6至12个月内，更强大的AI集群可能演变为大规模僵尸网络，对互联网基础设施造成灾难性破坏。
为应对潜在风险，阿莫迪宣布Anthropic将采取一系列透明化措施。公司计划向第三方评估机构开放永久性、员工级别的系统访问权限，允许外部专家实时监督安全措施的执行情况，及时报告异常事件，并评估模型训练过程中的对齐表现。这一举措旨在通过外部监督提升技术安全性。
阿莫迪提出了三项具体建议：在AI模型开发阶段引入独立监控机制；推动行业制定统一的监管标准；呼吁建立全球性的AI治理框架。他强调，这些措施需要跨公司、跨国家的协作才能有效实施。
这一观点迅速获得多位科技领袖的支持。xAI首席执行官埃隆·马斯克在转发相关内容时明确表示：“达里奥是对的。”OpenAI首席执行官萨姆·奥尔特曼也公开回应称，他认同控制前沿AI发展节奏的必要性，并透露OpenAI已在近期讨论相关话题，同时肯定了独立监控和第三方权限开放的价值，表示将采纳类似做法。
