孤本网
/ 0 阅读
0

NVIDIA 云合作伙伴在欧洲扩张算力,构建主权、开放且安全的 AI 代理基础设施

一句话结论

NVIDIA 云合作伙伴在欧洲等地大规模部署 Vera Rubin 等算力,旨在为代理型 AI 提供安全、主权可控的训练与推理基础设施。

关键要点

  • NVIDIA DSX MaxLPS 在相同电力预算下使 GPU 数量增加 37%,聚合推理吞吐量提高近 50%(基于 NVIDIA GB300 NVL72 系统测试)。
  • Mistral Large 4 模型利用 3,800 块 NVIDIA Grace Blackwell GPU 在欧盟数据中心完成训练,显著提升了编码及多模态理解能力。
  • Baseten 使用 Nemotron 3.5 Lightning 为 CodeRabbit 开发代码审查路由模型,将路由一致性从 75.8% 提升至 80.7%,估算推理成本降低 50%。
  • NVIDIA 在 GTC 柏林大会上发布 OpenShell 参考架构,通过 Vera CPU 与 BlueField-4 DPU 明确界定 AI 代理的访问与操作边界,支持安全部署。
  • Nscale、Crusoe、Nebius、Aleria 等合作伙伴正同步开发或部署包含 NVIDIA Vera Rubin、BlueField 及 Spectrum-X 以太网技术的 AI 基础设施。

背景与事实

NVIDIA 云合作伙伴(NVIDIA Cloud Partners)近期在欧盟、北欧、非洲及中亚地区加速算力容量扩张,以支持大模型训练、推理以及代理型 AI(Agentic AI)应用的开发。这一战略的核心目标是建立明确的访问边界,确保 AI 代理在受控环境下运行。在具体技术实现上,Nscale 采用 NVIDIA DSX 平台协调电力分配。测试数据显示,在基于 NVIDIA GB300 NVL72 系统的场景下,使用 NVIDIA DSX MaxLPS 功能可以在相同的预定电力预算下,使 GPU 数量增加 37%,同时聚合推理吞吐量提高近 50%。Nscale 计划部署 NVIDIA Vera Rubin 基础设施以支持前沿模型训练,并在五个欧洲市场进行扩展。

多家合作伙伴正在深化与 NVIDIA 的技术绑定。Crusoe 正在开发适用于 NVIDIA Vera Rubin 平台的液冷模块化 AI 工厂 Spark,其云服务 Crusoe Cloud 已服务 Base44、Gradium、LTX 及 Wonderful 等客户。Aleria、Cassava Technologies、Firebird、G42、Radiant、SWI Compute 和 Vultr 正在欧盟、北欧、非洲及中亚地区开发并扩展 NVIDIA AI 基础设施,这些设施包含 NVIDIA Vera Rubin、BlueField 及 Spectrum-X 以太网网络技术。Nebius 在其 Nebius Token Factory 中采用 NVIDIA Groq 3 LPX,结合 Spectrum-X 以太网与 Vera Rubin NVL72,旨在加速对延迟敏感应用及代理系统的令牌生成。此外,Nebius 提供包含全栈物理 AI 工作台的专有 AI 云服务,Rhoda AI、RoboForce 和 Sereact 基于该平台构建应用。Nebius 还推出了三个处于早期访问阶段的 NVIDIA 零售代理蓝图,涵盖库存、门店运营及微调业务,并在 SPRIND 的 Next Frontier Challenge 中作为计算机供应商参与,同时扩展其物理 AI 生活实验室。

在应用层模型优化方面,Baseten 使用 Nemotron 3.5 Lightning 为 CodeRabbit 开发代码审查路由专用模型。通过监督微调及强化学习技术,该模型将路由一致性从 75.8% 提升至 80.7%,同时估算推理成本降低了 50%。Fireworks 与 Era4 合作,利用 Era4 位于英国切斯特菲尔德的 NVIDIA Blackwell Ultra GPU 直接液冷容量,在英国及欧洲企业推广开放模型,支持金融服务、保险及生命科学领域的企业 AI 解决方案。Mistral 正扩展其 NVIDIA 加速计算基础设施,支持模型训练、定制及推理,并计划于 2027 年交付 NVIDIA Vera Rubin 基础设施。其最新前沿多模态模型 Mistral Large 4 是在 Mistral 运营的欧洲数据中心内,利用 3,800 块 NVIDIA Grace Blackwell GPU 训练而成,提升了编码、智能体工作流及多模态理解能力。Verda 计划部署 NVIDIA Vera Rubin,其 NVIDIA Nemotron 与 NVIDIA Cosmos 模型已投入生产,并采用 NVIDIA Dynamo 开源框架进行推理优化。

在 GTC 柏林大会上,NVIDIA 宣布了 OpenShell 参考架构。该架构基于 NVIDIA OpenShell 安全运行时软件,旨在为组织提供全栈控制,明确界定 AI 智能体可访问和操作的范围。OpenShell 架构包括用于模型推理的 NVIDIA Vera Rubin NVL72、配合 OpenShell 的 NVIDIA Vera CPU(用于智能体框架及工具使用),以及运行 NVIDIA Sentry 进行片内强制执行的 NVIDIA BlueField-4 DPU。Aleria、Baseten、Cassava、CoreWeave、Crusoe、DigitalOcean、Firebird、Fireworks、Firmus、G42、GMI Cloud、IREN、Lambda、Lightning AI、Nebius、Nscale、Radiant、Verda 及 Vultr 等合作伙伴均支持该架构,以实现安全的智能体部署。

影响分析

对于中文开发者与从业者而言,NVIDIA 在欧洲构建的“主权、开放且安全”的 AI 代理基础设施具有显著的示范效应。首先,OpenShell 参考架构的发布表明,安全边界控制正在从软件层下沉至硬件层(通过 BlueField-4 DPU 和 Vera CPU),这意味着未来的 AI 代理应用开发将面临更严格的硬件级合规要求。国内从业者需关注如何在私有化部署中实现类似的“片内强制执行”机制,以满足数据安全与合规需求。

其次,NVIDIA 强调“开放模型”与“代理型 AI”的结合,且 Baseten 通过微调 Nemotron 模型实现路由一致性提升与成本降低的案例,为国内企业提供了具体的降本增效路径。随着 Vera Rubin 平台在合作伙伴中的广泛部署,算力效率(如电力预算下的 GPU 密度提升 37%)将成为衡量数据中心竞争力的关键指标。国内云服务商在升级存量 Blackwell 集群或规划下一代 Rubin 集群时,可参考 DSX MaxLPS 的电力协调策略,以优化 TCO(总拥有成本)并提升推理吞吐量。

适用边界

本资讯所述结论主要适用于正在规划下一代 AI 基础设施(如 Vera Rubin)的企业级场景,以及关注代理型 AI 安全部署的云服务商。对于仍主要依赖上一代 GPU(如 A100/H100)且仅从事基础模型训练而非复杂代理系统开发的中小型团队,OpenShell 架构及 Vera CPU 的相关硬件支持可能尚未完全普及或成本过高。此外,Nebius 的零售代理蓝图目前处于“早期访问阶段”,尚未大规模商用,相关业务流程的集成方案可能存在变动,直接照搬至成熟业务场景需谨慎评估稳定性。

孤本观察

NVIDIA 通过整合 Aleria、Nebius、Crusoe 等区域性云商,实际上是在构建一个以“代理安全”为核心卖点的欧洲算力联盟,这不仅是技术扩张,更是针对欧盟数据主权法规的合规性布局。Baseten 在代码审查路由上实现成本降低 50% 的数据,暗示了专用小模型(如 Nemotron 3.5 Lightning)在特定垂直场景中的推理效率已足以替代更大参数量模型,这一趋势可能加速国内大模型厂商向“小而精”的路由层优化方向倾斜。

NVIDIA 云合作伙伴在欧洲扩张算力,构建主权、开放且安全的 AI 代理基础设施

NVIDIA 云合作伙伴在欧洲扩张算力,构建主权、开放且安全的 AI 代理基础设施

常见问题

使用 NVIDIA DSX MaxLPS 在 GB300 NVL72 系统下能带来多少算力提升?

在相同电力预算下,GPU 数量增加 37%,聚合推理吞吐量提高近 50%。

Baseten 使用 Nemotron 3.5 Lightning 为 CodeRabbit 开发的模型带来了哪些性能与成本变化?

路由一致性从 75.8% 提升至 80.7%,估算推理成本降低 50%。

Mistral Large 4 模型训练使用了多少块 GPU?部署在哪个区域?

使用 3,800 块 NVIDIA Grace Blackwell GPU,在欧盟数据中心完成训练。

NVIDIA OpenShell 参考架构包含哪些关键硬件组件以界定 AI 代理边界?

包含 NVIDIA Vera CPU、BlueField-4 DPU(运行 Sentry)以及用于推理的 Vera Rubin NVL72。

来源:NVIDIA Blog