孤本网
/ 0 阅读
0
0

英伟达在 GTC 2026 柏林大会扩展 DGX 集群规模并显著提升本地 AI 推理性能

一句话结论

英伟达将 DGX Spark 集群上限提升至 8 台,并通过软件优化使特定本地 AI 模型推理性能最高提升 40%。

关键要点

  • DGX Spark 现支持手动配置最多 8 台设备组建集群,128GB 版本集群统一内存容量最高可达 1TB。
  • 本地 AI 平台更新后,RTX PRO 6000 Blackwell 在特定工作负载下推理性能最高提升 40%。
  • DGX Spark 与 llama.cpp、vLLM 社区合作优化,相关任务性能最高分别提升 30% 和 20%。
  • 新发布的 Recursive Flint 编程模型采用混合专家架构,在 64GB 内存设备上推理速度超过每秒 220 个词元。
  • 64GB 版本 DGX Spark 售价 4999 美元,将于 10 月 23 日开始通过合作伙伴陆续发售。

背景与事实

10 月 21 日,英伟达在柏林举行的 GTC 2026 大会上宣布对其本地 AI 硬件产品线进行重要更新。此次更新的核心在于扩展 DGX Spark 的集群部署能力。此前,DGX Spark 仅支持最多 4 台设备组建集群,而新政策开放了手动配置上限,允许最多 8 台设备协同工作。对于内存资源紧张的大型模型推理场景,这一变更意味着使用 128GB 内存版本的 DGX Spark 组建集群时,其统一内存容量最高可达 1TB,为运行更大参数的本地模型提供了物理基础。

在软件生态与推理性能方面,英伟达发布了本地 AI 平台更新,并与 llama.cpp、vLLM 两个知名开源社区展开合作,旨在优化 AI 推理性能。官方数据显示,在特定工作负载下,RTX PRO 6000 Blackwell 的推理性能最高提升 40%;DGX Spark 和 DGX Station 也分别获得了最高 30% 和 20% 的性能提升。具体技术细节显示,在 llama.cpp 框架中,针对 Qwen 3.8 Flash Next 模型的多 token 预测推测解码优化,可使 RTX PRO 6000 Blackwell 上的端到端智能体任务提速最高 1.4 倍;在 vLLM 框架中,针对 Qwen3.8 27B 模型的推测解码和 FlashInfer 预填充内核优化,可使 DGX Spark 上的相关任务提速最高 1.3 倍;而 DGX Station 在运行 GLM 5.3 Flash 时,吞吐量最高提升至原来的 1.2 倍。

硬件发售与企业级扩展计划同步推进。售价 4,999 美元(约合 33,450 元人民币)的 64GB 版本 DGX Spark 将于 10 月 23 日开始通过合作伙伴渠道发售。针对企业用户,英伟达推出了 DGX Station 的企业管理与应用扩展计划,新增包括 Absolute Security、思科旗下 Splunk、Microsoft Intune、Tanium 等在内的七项管理集成,以帮助企业更好地部署和管理本地 AI 基础设施。此外,DGX Station 的 Windows 版本预计于 12 月推出,将特别支持制造业相关应用,以及设计、仿真、验证和工程自动化工作流。

影响分析

对于中文开发者与从业者而言,此次更新降低了本地部署大规模混合专家(MoE)模型的门槛。Recursive Flint 编程模型总参数量为 400 亿,激活参数量仅 25 亿,这种架构特点结合推理速度超过每秒 220 个词元的性能表现,意味着在配备 64GB 内存的 RTX Spark 等消费级或准专业级硬件上,也能实现较高效率的代码辅助任务。同时,Nemotron、GLM、DeepSeek、Qwen、MiniMax 以及 FLUX.3 Klein 等模型获得本地运行支持,涵盖了智能体、编程、图像生成和编辑等多种任务场景,使得开发团队无需依赖云端 API 即可在本地构建完整的 AI 应用工作流。

企业管理者将受益于 DGX Station 新增的七项管理集成,这些工具能够显著简化本地 AI 基础设施的运维复杂度,确保数据隐私与安全合规。对于依赖本地推理的研究人员,1TB 统一内存的集群能力使得在本地环境中测试和运行超大参数模型成为可能,而无需投入昂贵的超级计算机资源。然而,这些优势主要适用于具备一定技术运维能力的团队,个人用户可能仍面临配置复杂性和硬件成本的双重压力。

适用边界

上述性能提升数据(如 40%、30%、20%)均基于“特定工作负载”和“最高”值,实际表现可能因具体模型、任务类型及硬件配置差异而显著低于官方峰值。Recursive Flint 模型的高速推理仅在配备 64GB 内存的 RTX Spark 上得到验证,在其他内存规格或硬件平台上性能未知。此外,8 台集群的手动配置能力主要面向企业级部署场景,普通消费者或小型工作室在物理空间、散热条件及网络带宽上可能难以满足 8 台设备同时稳定运行的需求。Windows 版本的 DGX Station 功能支持仅限于制造业、设计、仿真等特定垂直领域,并非通用的全功能系统。

孤本观察

此次英伟达通过同步扩展集群上限与深化开源社区合作,清晰划定了本地 AI 推理在性能与成本之间的新平衡点。通过提供量化模型检查点以降低内存占用,英伟达正在将前沿 AI 能力从云端专属逐步下沉至边缘设备,这一策略不仅巩固了其在本地硬件市场的地位,也通过标准化接口(如 NVIDIA Cloud Functions)试图重新定义本地模型服务的共享方式。

英伟达在 GTC 2026 柏林大会扩展 DGX 集群规模并显著提升本地 AI 推理性能

英伟达在 GTC 2026 柏林大会扩展 DGX 集群规模并显著提升本地 AI 推理性能

英伟达在 GTC 2026 柏林大会扩展 DGX 集群规模并显著提升本地 AI 推理性能

英伟达在 GTC 2026 柏林大会扩展 DGX 集群规模并显著提升本地 AI 推理性能

英伟达在 GTC 2026 柏林大会扩展 DGX 集群规模并显著提升本地 AI 推理性能

常见问题

DGX Spark 集群最多支持多少台设备?128GB 版本集群的总内存容量上限是多少?

DGX Spark 现支持手动配置最多 8 台设备组建集群。使用 128GB 版本组建集群时,统一内存容量最高可达 1TB。

RTX PRO 6000 Blackwell 在本地 AI 平台更新后的推理性能最高提升了多少?

RTX PRO 6000 Blackwell 在特定工作负载下的推理性能最高提升 40%。

Recursive Flint 编程模型在 64GB 内存设备上的推理速度是多少?其总参数量与激活参数量分别是多少?

推理速度超过每秒 220 个词元。总参数量为 400 亿,激活参数量仅为 25 亿。

64GB 版本 DGX Spark 的售价是多少?何时开始发售?

售价为 4999 美元(约合 33,450 元人民币),将于 10 月 23 日开始通过合作伙伴渠道陆续发售。

来源:IT之家


评论