从「算得快」到「干得了活」：AI推理时代，CPU如何重塑算力版图

一句话结论

英特尔在Connection大会宣布，推理时代CPU将重构数据中心，成为智能体调度与物理AI控制的中枢。

关键要点

英特尔提出未来数据中心将拆分为CPU集群、GPU集群和存储集群，且这三类集群间的数据调度全部由CPU完成。
采用Intel 18A制程的至强6+处理器，单颗即可部署近千个智能体，在云端沙箱场景下性能约为竞品的1.46倍。
第三代酷睿Ultra实现“大小脑融合”，CPU以4kHz频率执行动作调整，GPU在Pi0.5精度下推理时延仅为78毫秒。
英特尔KV Cache智能加速套件通过QAT实现无损压缩，将300GB原始数据压至200GB，并借助DSA引擎将数据搬运最高加速9.66倍。
英特尔具身套件将于11月份在京东上线，面向制造、建筑、医疗、智慧城市、仓储物流、酒店等多种场景推进项目量产。

背景与事实

2024年9月22日，英特尔在Connection大会上明确提出了算力架构的演进方向。英特尔数据中心集团副总裁、中国区总经理陈葆立指出，随着AI从单纯的模型训练转向复杂的智能体推理，传统的算力分配模式正在发生深刻改变。在训练阶段，核心目标是极致提升整体吞吐量，主要由GPU主导；而在推理阶段，智能体作为典型的串行状态机，每一步任务执行都依赖上一步的输出结果。这种特性使得任意环节的微小延迟都会沿着任务链路层层放大，最终影响整体智能体验。因此，稳定、可控、超低的端到端延迟成为智能体规模化落地的核心硬性约束。

面对高并发工具调用与高带宽AI推理任务在单芯片内混跑的矛盾，以及多租户场景下的安全隔离需求，英特尔从系统层面重新划分了数据中心的架构。具体而言，未来的数据中心将被拆分为三类集群：负责智能体执行和任务编排的CPU集群、负责模型推理计算的GPU集群，以及承载长对话、文档等持续新增业务数据的存储集群。这三类集群之间的数据调度，全部由CPU完成。

在产品层面，英特尔推出了采用Intel 18A制程、最高拥有288个能效核的至强6+处理器，并配合智能体套件，单颗即可部署近千个智能体。实测数据显示，在SWE-bench测试中，其单智能体性能领先竞品15%；在云端沙箱场景下，面对10分钟内批量启动上万沙箱、单沙箱延迟200ms以内的严苛要求，至强6+支持350个沙箱并发，性能约为竞品的1.46倍。此外，在异构数据预处理环节，至强AMX加速器让向量化和重排序分别达到基准的2倍和4倍；在存储调度环节，联合焱融科技基于至强6和MRDIMM的方案，在MLPerf Storage v3.0中拿下了Llama3检查点读写和3D-Unet训练两项全球第一。

在物理AI领域，英特尔副总裁兼端侧计算和物理AI事业部中国区总经理高嵩表示，希望当大家提到物理AI时，第一个想到的厂商是英特尔。针对机器人动态环境下的实时感知与精准执行瓶颈，第三代酷睿Ultra提出了“大小脑融合”的应对方案。依托XPU异构架构，推理决策与实时运动执行被整合在单颗SoC上。其中，CPU作为“小脑”，以4kHz的控制频率每秒完成4000次动作调整，保障关节电机精准响应；GPU承载高阶AI推理，在Pi0.5精度下推理时延仅为78毫秒，低于人类视觉200-250毫秒的平均反应时间；NPU则面向视觉感知，YOLOv12n推理仅需3.55毫秒，每秒处理约280帧，远超普通摄像头60帧的输出上限。目前，英特尔已联合科通工业、神州数码等合作伙伴推出基于第三代酷睿Ultra平台的具身智能开发套件，并宣布该套件将于11月份在京东上线。

影响分析

对于中文开发者与从业者而言，这一架构转变意味着系统设计与硬件采购策略的底层逻辑正在发生变化。首先，数据中心基础设施的建设不再仅仅关注GPU的堆叠数量，CPU在控制面、任务编排和数据调度中的核心地位将重新受到重视。开发者需要在架构设计阶段就充分考虑CPU集群与GPU集群的协同效率，特别是针对智能体场景下超低延迟和串行依赖的约束。其次，至强6+等高效能处理器在云端沙箱和高并发场景下的性能优势，将降低大规模智能体部署的硬件门槛，使得中小型企业和开发者能够以更低的成本实现大规模并发推理。最后，物理AI领域的“大小脑融合”方案通过单芯片整合感知、决策和控制，消除了传统多单元方案的协同偏差，使得机器人开发者能够将精力集中在上层智能算法开发而非底层硬件调优，从而加速具身智能从原型走向量产。

适用边界

该结论主要适用于AI从纯模型训练向智能体推理和物理AI应用转型的场景，对于单纯的大模型批量训练任务，GPU依然是算力核心，CPU的“控制中枢”作用并未改变训练侧的绝对主导地位。此外，物理AI的具体落地效果仍受限于算法路线的不确定性，英特尔提出的开放架构策略旨在对冲这一风险，但并不能保证所有算法范式都能在硬件上达到最优性能，特定垂直领域的专有算法可能仍需要定制化的硬件适配。