近期，一份备受瞩目的《国际人工智能安全报告》英文版正式发布，该报告汇聚了全球96位顶尖人工智能专家的智慧结晶，全面探讨了通用人工智能的发展现状、潜在风险及风险管理策略，为国际社会的政策制定提供了宝贵的科学依据。
这份沉甸甸的报告共计298页，深入剖析了通用人工智能的多个维度。在技术层面，报告指出，通用人工智能主要基于深度学习技术，经历数据收集、预处理、预训练、微调等多个阶段而逐渐成熟。自中期报告发布以来，通用人工智能在多步推理能力上取得了显著提升，能够胜任辅助编程、图像生成等多样化任务。然而，其在执行复杂机器人任务、避免错误陈述等方面仍存在明显短板，尽管科学推理和编程测试的表现已有所进步。
报告进一步揭示了通用人工智能所带来的多重风险。首先，恶意使用风险不容忽视，通用人工智能可能加剧虚假内容的传播、舆论操纵、网络攻击乃至生物和化学攻击等威胁。随着技术的不断进步，其在恶意使用领域的能力也在悄然增强。其次，故障风险同样值得关注，通用人工智能可能因可靠性问题导致幻觉、推理失败等现象，同时其内在的偏见也可能对不同群体造成不公平影响。失控风险的存在更是让专家们的看法产生了分歧。系统性风险涉及劳动力市场、全球研发差距、市场集中、环境、隐私和版权等多个方面，这些风险在报告发布后也呈现出新的变化和担忧。
在风险管理方面，报告强调了采用“系统安全”方法和“深度防御”策略的重要性。然而，当前的风险管理仍面临诸多挑战，如风险识别和评估的困难、责任和激励机制的缺失等。技术上，人工智能体的广泛应用和模型内部运作的复杂性增加了安全保障的难度；社会层面上，技术的快速发展使得治理难以跟上步伐，竞争压力可能导致开发者忽视风险，责任归属问题也愈发棘手。
为了直观展示报告的核心内容，以下精选了几张图表：
这些图表不仅生动呈现了通用人工智能的能力发展趋势，还直观揭示了其在恶意使用、故障风险和系统性风险等方面的复杂面貌。报告指出，尽管在风险缓解和监测方面取得了一定进展，但现有方法仍无法完全防止不安全行为的发生。因此，国际社会需要共同努力，不断探索和完善人工智能的安全管理机制，以确保这一前沿技术的健康、可持续发展。
