近日，在国产3A游戏大作《黑神话：悟空》上线引发全球关注的同时，一则AI因错误抓取信息导致个人信息泄露的事件，将微软必应推至台前。之所以会有员工手机号的泄露，来源于机锋网网站内部一篇已删除的新闻稿件，尽管该稿件全程没有任何相关号码露出，只是网站文章页面的底部标注了商务合作的联系电话，就被错误判定为《黑神话悟空》客服的官方电话。此外，还有两个错误的电话号码被标记为客服，其中包括第一财经版权部的联系电话。
九派财经注意到，截至发稿，错误信息仍出现在必应搜索首页，必应团队尚未对此进行更正。
必应搜索页面
对此，一位人工智能方向的研究人员告诉九派财经，这是发生了“大模型幻觉”，当用户输入“黑神话悟空的客服电话”这句话，大模型会根据之前的训练内容，生成相关文本内容，然后根据这些信息再去检索。但是，大模型生成的内容是否贴切是一个概率事件，产出的内容很可能看似和搜索内容相关，实则毫不沾边。
该研究人员进一步解释称，这种“大模型幻觉”的发生符合大数极限定理，因此没法预测，只能尽可能减小概率。“因为大模型擅长的是填空，比如我-你，大模型大概率会给出‘爱’、‘恨’，填空的内容是和训练数据相关的，符合一定的概率分布，不可能保证百分百准确，标注错误很正常。”
必应搜索官方在搜索结果下面给出了“以上信息汇总借助人工智能技术，若访问原文请查看了解详细信息后”的提醒。对此，上海大邦律师事务所游云庭律师表示，搜索引擎服务是免费的，因此只有一部分是有不能出错的硬性合规要求，比如银行的电话号码、网址等，而对于没有危及到个人健康、生命安全等其他内容，因涉及海量的数据偶尔出错也属于正常情况。“我个人认为，搜索引擎服务提供商若提前附有提示，能在发现错误后及时更改，就无需承担错误信息的责任。”游云庭说。
九派财经记者 王芊蔚
编辑 万珮
版权归原作者所有，向原创致敬
