终端侧 AI 迈向智能体：高通联合伙伴探索 MoE 模型高效运行路径

一句话结论

终端侧 AI 正从单点功能向智能体演进，高通联合多方伙伴通过混合专家模型（MoE）系统优化，提升了端侧复杂任务的完成度与效率。

关键要点

终端侧 AI 应用正从语音识别、文本摘要等单点任务，向意图理解、任务编排等系统级智能体体验演进，这对端侧模型能力提出了更高要求。
混合专家模型（MoE）通过仅调用部分专家模块参与计算，解决了终端设备在内存和功耗限制下难以运行高参数规模模型的难题，有望将复杂任务完成度从 60% 至 80% 水平进一步提升。
端侧 AI 运行效率的关键瓶颈之一是大模型推理过程中的内存带宽（DDR），通过提前预测并预取所需专家模块可显著减少等待时间。
高通与阶跃星辰、Infris AI、江波龙合作，分别在模型智能、推理预测、存储加载和芯片平台优化等环节协同，构建了端侧 MoE 智能体的系统性解决方案。

背景与事实

2026 年 11 月 7 日，在第九届进博会期间，高通公司 AI 产品技术中国区负责人万卫星阐述了终端侧 AI 的发展阶段与技术趋势。终端侧 AI 经过过去 3 至 4 年的发展，已不再局限于早期的影像处理，而是拓展至简单问答、图像生成、实时翻译等多模态应用。然而，当前多数端侧应用仍停留在解决单一具体任务的阶段，例如自动语音识别（ASR）或简单聊天机器人。若要实现意图理解、任务编排及实时操作目标应用等系统级、规划类任务，需要具备更强的端侧模型能力，这正是终端侧 AI 向智能体体验演进的核心驱动力。

在这种演进中，端云协同的“计算连续体”策略成为行业共识。高通强调“端侧优先”（on-device first）思路，指出端侧相较于云端具备实时性、稳定性、隐私保护及个性化的优势。云端如同“通用知识库”，负责承接需要强大算力的高智能任务；而端侧则掌握用户个人的“专业化知识”，能结合用户身份、位置及历史行为提供主动式服务。二者并非孤立，而是相互补充的协同体系。

在此背景下，混合专家模型（MoE）成为终端侧 AI 的关键技术方向。与传统密集（Dense）模型每次推理需运行全部参数不同，MoE 将模型划分为多个专家模块，执行任务时仅调用相关专家。例如，一个包含 20 个专家的 MoE 模型在处理特定任务时，可能仅激活 2 至 3 个模块。这种机制大幅降低了单次推理的实际运行参数量，从而提高了运行效率。对于受内存和功耗严格限制的手机、PC 等终端设备而言，主流做法通常仅能运行 20 亿至 30 亿参数规模的模型。虽然这一规模足以完成单点任务，但在复杂任务上完成度往往处于 60% 至 80% 区间。MoE 技术为在有限硬件条件下部署更高智能水平的模型提供了新的技术路径，有望突破这一瓶颈。

影响分析

对于中文开发者与从业者而言，终端侧 AI 向智能体演进意味着开发范式的根本转变。过去只需调用固定 API 完成单一功能的应用层，未来需应对意图理解与任务编排等动态流程。这要求开发者不仅关注模型精度，更需关注推理效率与系统级集成。MoE 技术的普及将降低复杂智能体应用对高性能云端算力的绝对依赖，使得在离线或弱网环境下运行高级 AI 功能成为可能，极大提升了用户体验的即时性与隐私安全性。

此外，端侧 AI 生态的协作模式正在从单纯的“模型 + 芯片”转向深度协同。开发者需理解“模型 for 芯片”或“芯片 for 模型”的优化逻辑，结合模型量化、推理预测及存储优化等技术手段，以适配终端硬件特性。这种系统性优化能力将成为终端 AI 开发者的核心竞争力。同时，随着 NPU（神经网络处理单元）等芯片能力的增强，开发者在利用全栈 AI 工具和软件栈时，需更多关注不同硬件平台对 MoE 模型专家模块路由、预取及缓存机制的支持差异，以最大化端侧运行效率。

适用边界

本结论主要适用于受内存和功耗限制的边缘计算终端，如手机、PC、汽车及智能眼镜等设备。对于具备无限算力资源且对隐私无特殊要求的云端数据中心场景，端侧 MoE 优化的紧迫性较低，传统大规模密集模型或云端专用加速方案可能更具经济性。此外，文中提到的复杂任务完成度提升基于特定模型规模（如 20 亿至 40 亿参数）与协同优化条件，若终端硬件存储接口带宽不足或模型专家模块数量超出硬件缓存预测能力，MoE 的效率优势可能无法充分展现。