在2025年世界人工智能大会高级别会议上，德勤中国针对当前生成式人工智能（AI）的迅猛发展，提出了企业在价值挖掘与风险防控之间所面临的严峻挑战。德勤指出，技术发展的迅猛势头与风险管理能力的滞后，凸显出传统管理框架难以适应新生变量的现实。
德勤中国科技、媒体、电信（TMT）行业主管合伙人程中在接受专访时强调，企业不应将生成式AI的治理视为可延迟的选项，而应迅速采取行动。他认为，企业需要在人员配置、流程管理和技术应用三个方面协同努力，以在竞争中占据优势。这包括明确权责、提升员工素养，确保AI应用的全生命周期合规控险，以及利用平台技术解决AI黑箱问题。
程中观察到，企业对于生成式AI的态度已从是否采用转变为如何更好地应用。他认为，真正的竞争在于谁能更快地将技术转化为实际的业务流程增效，企业应优先投资于那些能够带来可验证回报的项目。
在讨论企业的AI化重构过程时，程中阐述了这一过程中的四个阶段。从建立AI战略愿景时的预期与现实落差，到试点探索阶段的价值量化难题，再到AI深度嵌入核心业务流程时的信任度不足，直至最后建立AI投资与财务指标直接关联的财务映射阶段，企业需经历一系列挑战。特别是，AI带来的客户满意度提升等间接收益难以量化，成为企业面临的一大难题。
针对企业旧系统改造的高成本问题，程中提出了轻量化方案。他建议，企业可通过“轻架构、软集成、分布式演进”的方式实现AI架构升级。轻架构将AI能力封装为API服务，降低对核心系统的重构压力；软集成则利用智能体、RPA等工具将AI接入现有流程；分布式演进则优先落地高ROI、高数据成熟度的场景。
程中还指出，企业在流程中嵌入AI后，需警惕大模型幻觉带来的负面影响。他强调，结构性幻觉尤为危险，因其常出现在AI输出的表格、图表等看似逻辑清晰的内容中，实则基础数据虚构、推理链条断裂。德勤提出的“可信人工智能框架”建议企业构建多层防线，包括明确人工审核角色、设置结构化事实核查环节等。
当AI智能体成为企业战略的重要组成部分时，程中建议董事会重新定义“人机”的价值边界，强调AI智能体是“增强工具”而非“替代者”。他特别提到，在媒体行业中，应让编辑参与智能体的调教、内容审核和标准制定，同时设置“AI使用红线”，确保敏感内容经过人工审核。
针对AI治理范式，程中认为，企业应从被动应对转变为主动管理。他建议，在战略层面制定清晰的AI发展战略与目标，设立专门的AI治理团队负责监督合规性和风险管理，采用可解释AI技术和数据治理工具，以及培养员工的AI素养。
程中还指出，企业应构建统一架构，使AI成为核心支柱，并在各流程中整合治理模型。他强调，保障数据安全可防止客户流失，满足合规要求可避免巨额罚款，而安全可靠的AI系统则可提升客户满意度与忠诚度，间接增加营收。例如，某金融服务公司将AI集成到网络安全架构中，实现了威胁检测的自动化，显著缩短了事件响应时间。
