2026年世界互联网大会“互联网之光”博览会上,网易智企·易盾首次对外发布AI原生安全产品体系。网易智企副总经理、易盾业务负责人朱浩齐围绕AI安全趋势、技术架构和产业落地分享了判断:AI正从生成内容、回答问题转向调用工具、执行任务,安全关注点也要从AI说什么延伸到AI做什么。
这一变化让风险形态发生转移。模型答错,用户还能再次提问;智能体一旦在业务系统中执行错误操作,影响可能直接进入流程。朱浩齐用出行场景作对比:导航路线有误,驾驶者可以重新规划;自动驾驶若执行错误指令,后果会严重得多。传统只检查输入和输出的做法,已经难以覆盖智能体运行中的复杂链条。
风险可能藏在任务拆解和上下文串联中。一条表面正常的指令,被分散到多个文件或片段里,单独检查未必异常,只有智能体将其组合并执行时才暴露问题。也可能出现权限外访问:智能体原本只被允许读取某类资料,却在执行中尝试接触更敏感的数据。朱浩齐认为,安全能力需要理解任务意图、上下文关联和实际执行行为,不能停在单条内容检测上。
他把智能体比作企业新员工:入职前要明确岗位职责、工作范围、权限等级和可接触资料。企业给智能体设置规则也应如此,先界定能做什么、不能做什么,再匹配相应安全机制。AI输出可以带有概率特征,但业务中的权限、数据和操作边界必须清晰。易盾的智能体安全能力由此延伸到任务执行过程:启动阶段做静态扫描,运行中检测资料读取、用户交互和相关行为,发现风险或越权便及时拦截。
围绕这些问题,易盾提出“AI for 安全,安全 for AI”的双向架构,希望让AI与安全能力相互促进。该体系并非把两类产品简单相加,而是一边围绕大模型、智能体和数据安全构建全链路防护,覆盖内容交互、工具调用、行为执行与权限控制;一边把AI能力用于安全运营,借助场景沉淀、数据积累、规则策略和专家经验,提高多模态风险识别、实时防护与智能决策水平。
产品层面,易盾将体系分为三层:AI内容与数据安全、AI交互与身份安全、AI模型与智能体安全,分别对应内容是否可信、交互对象是否真实、AI行为是否可控。内容安全方面,首发的CMA审核智能体引入大模型内容理解能力,不再只靠关键词和固定规则,而是尝试理解语义、场景和上下文。例如在停车场管理中,系统除了识别车牌,还要判断车辆是否停在线内;在短剧审核中,则要结合剧情发展和表达方式作出判断。
身份安全方面,面对越来越逼真的AI生成图像和视频,易盾推出DeepGuard人脸鉴伪。它通过大量真实人脸数据,让模型学习真实人脸的特征规律,再据此发现异常。朱浩齐用打扫房间作比喻:传统方式像针对不同垃圾分别设计方案,新思路则先理解干净房间应有的状态,再识别异常。模型与智能体安全层则直接面向AI应用和Agent运行,涵盖任务意图、权限范围、工具调用和执行行为检测,也关注企业内部AI资产及第三方工具接入风险,平台将资产发现、供应链安全检测和运行行为管控纳入整体能力。
在朱浩齐看来,业务执行与安全监督应当各司其职,保持相对独立。通用大模型在理解、生成和推理上有优势,但垂直领域的审核还要结合企业内容标准、合规要求和风险边界。独立的安全能力可与大模型互补,使规则更透明、过程可审计、结果可追溯。企业接入的模型可能不断更换,如果每次更换都重做安全规则,治理体系难以稳定;把安全能力部署在模型应用之外,可以按业务标准统一管理,并在不同模型间复用。内容审核中,易盾采用大小模型协同:大模型与行业数据训练垂类小模型处理大规模常规内容,低置信度、疑难和高风险样本再交人工判断。
自2016年推出安全服务以来,易盾的技术形态从传统规则库演进到AI原生大模型,但核心命题仍是让数字世界的内容、身份与行为更加可信。AI安全很难依靠一套相同规则解决所有问题,通用安全能力需要与行业知识、业务流程和企业管理要求结合。
行业落地已有不同侧重点。金融领域,易盾为银行等客户提供大模型安全围栏,对用户输入和模型输出进行过滤与调整,并结合合规知识库,保障面向储户的智能问答服务符合业务要求。制造业更关注具体场景,例如保护生产配方、工艺参数和商业机密,避免敏感数据在AI应用中被不当读取或泄露。易盾提供通用安全能力,再由行业合作伙伴结合客户需求进行适配部署。朱浩齐表示,不同行业AI应用进度和安全需求并不同步,金融对Agent安全关注相对靠前,游戏、泛娱乐和社交领域的大模型应用落地较快,也带来新的内容安全需求。