在数字化转型的浪潮中，阿里云与钛媒体携手推出的《云栖战略参考》成为洞察行业先锋实践的窗口。该刊物的最新内容揭示了端侧与云侧大模型协同的广阔前景，为硬件制造商与阿里云带来了前所未有的发展机遇。
回顾技术革命的历史，从机械驱动的织布机到电力支撑的电话，再到算力为核心的计算机，每一次技术的飞跃都深刻改变了终端设备的软硬件形态。如今，大模型技术承载着同样的期望，被视为推动智能终端全面变革的关键力量。
大模型的融入，加速了数字与物理世界的融合进程。它不仅使智能终端能够更深入地理解自然语言，还赋予了它们强大的智能分析与决策能力。通过深度学习用户的习惯与偏好，智能终端能够为每位用户打造独一无二的个性化体验。
然而，挑战也随之而来。尽管端侧需要充分展现大模型的能力，但千亿乃至万亿参数的大模型对算力、存储及能耗的要求远超当前端侧芯片所能承载的极限。同时，端侧用户对于高性能、低时延及数据隐私保护的需求也日益凸显。
目前，1B模型在端侧应用中占据主导地位，能够处理文本生成、语音识别等基础任务；3B模型则在高端移动设备上展现更多应用潜力，如高级文本生成与多轮对话；而7B模型被誉为“黄金尺寸”，能够胜任长篇创作与专业领域问答等高精尖任务，但已接近端侧设备承载能力的上限。对于更大参数的模型，如13B及以上的百亿参数模型，则需通过模型压缩技术与专用硬件加速，在高端智能设备上实现部署。
在此背景下，云侧部署大模型与端侧应用大模型的结合，成为平衡性能、成本、功耗、隐私及速度的最佳选择。端侧大模型便于处理本地用户数据，提供个性化服务；而云侧基础大模型则凭借更大的参数量与更广泛的能力，应对更复杂的问题。
为了深入探讨大模型如何重塑智能终端的新体验，极客公园创始人张鹏与优必选科技副总裁庞建新、OPPO AI技术规划总监陈晓春、北科瑞声创始人刘轶博士展开了一场精彩对话。
庞建新指出，在大模型技术出现前，机器人领域面临多模感知与任务决策规划的诸多挑战。大模型的引入，不仅解决了多模感知的融合问题，还通过环境信息与知识上下文的统一决策，提升了机器人的智能水平。同时，大模型能够重新规划并执行失败的任务，确保最终完成任务。
陈晓春分享了OPPO在端侧AI场景上的探索。得益于强大算力与本地化部署，AIGC的响应时间大幅提升，消除了用户的等待感。手机原生应用与大模型的结合，使手机变得更加智能，解决了用户时间碎片化的问题。例如，通过大模型自动生成待办事项，提升了用户的效率。
刘轶则强调了语音交互领域的两次重大变革。从Siri的推出到GPT-4o的亮相，语音交互从简单的语音识别迈向了理解与意图识别的层次。大模型有望像人一样自然地进行语音交互，催生私有化的个人助理，广泛应用于汽车、手机、手表等设备。
在端侧大模型的具体需求方面，庞建新表示，机器人需要端侧模型来处理移动、操作及人机交互等核心功能。而陈晓春则指出，手机端侧模型的应用需考虑延时敏感、高隐私场景及成本与功耗的平衡。目前，1B至7B参数的模型在端侧表现良好，但更大参数的模型则需借助云平台。
刘轶进一步指出，尽管7B参数模型在端侧已达到极限，但行业正在研究1B及以下的模型，特别是针对特定领域或行业。然而，小参数模型与云端大模型之间仍存在巨大差距，因此大模型落地端侧需与传统知识处理方法结合。
在端云协同方面，庞建新与陈晓春均强调了阿里云在AI应用端云协同中的重要角色。他们表示，通过与阿里云的深入合作，共同解决了开源大模型的场景调整、端侧部署及云端协同等问题，推动了智能终端的智能化进程。
刘轶还提出了两点建议：一是参考OpenAI的成功模式，通过分享与众筹机制，共同构建面向各自领域的垂直行业大模型；二是针对低功耗可穿戴设备，建立云端与本地之间的良好链路，为阿里云与硬件厂商带来巨大机遇。
