近日，直播带货公司“三只羊”因一段疑似其创始人卢文庆的醉酒音频而陷入舆论漩涡。该音频涉及敏感话题，引发广泛关注。然而，经警方调查，这段音频竟为AI伪造之作。
据悉，伪造音频使用的是名为“Reecho睿声”的大模型技术，由深圳一家新兴科技公司推出。该技术能够通过短暂音频样本克隆声音，生成高度逼真的AI语音。此事件不仅暴露了AI技术在声音克隆领域的惊人进展，也引发了公众对AI内容真实性和安全性的担忧。
AI声音克隆技术的发展，如今已能让普通人轻易“以假乱真”。市场上，类似睿声这样的产品不在少数，它们大多宣称能够快速定制个性化声音，甚至模仿名人声音。然而，这种技术的滥用也带来了诸多法律风险，如声音侵权、虚假信息传播等。
业内人士指出，尽管AI声音克隆技术具有广阔的市场前景，但其在应用过程中的不可控性令人担忧。随着技术的普及，如何确保AI生成内容的真实性和合法性，已成为全球共同面临的挑战。
针对此次事件，相关法律专家表示，平台在提供AI服务时，应承担起相应的审核和安全评估责任。同时，用户在使用这类技术时，也应遵守相关法律法规，避免侵犯他人权益。
目前，涉事公司已对事件作出回应，表示将加强内部审核机制，并提醒用户遵守使用规则。然而，如何从根本上解决AI技术滥用问题，仍需行业和社会共同探索。
