范式智能联合睿思智联开源“模域”平台，实现国产多芯片统一管理与生产级AI部署

一句话结论

范式智能与睿思智联开源生产级AI部署平台“模域”，通过统一调度国产异构芯片，将模型部署门槛降低并提升系统吞吐效率约285%。

关键要点

• 平台“模域”采用Apache 2.0协议开源，免费面向企业用户，整合算力管理、模型部署与运行优化流程。
• 平台支持统一调度华为昇腾、天数智芯、摩尔线程、海光DCU等国产芯片，无需重写底层适配代码。
• 基于AutoTune智能排期与自适应负载均衡，系统极限吞吐效率较基准提升约285%，性能跃升至原4倍。
• 已适配DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM等主流开源模型，支持发布后快速部署。
• 平台提供图形化操作面板，内置自动弹性扩缩容、PD分离部署、三级KV缓存及高可用负载均衡等企业级功能。

背景与事实

2024年10月16日，北京范式智能联合北京睿思智联科技有限公司宣布，一站式生产级AI部署平台“模域”正式上线并全面开源。该平台主要针对大模型规模化商业阶段中企业面临的算力统筹困难、模型部署门槛高及效能优化痛点而设计。模域的核心定位在于将算力管理、模型部署和运行优化整合在统一平台中，旨在帮助企业降低部署与运维门槛，更高效地将算力转化为安全、稳定、可用于实际业务的AI服务。

在技术实现上，模域采用了EngineX推理引擎，并针对多种国产算力芯片进行了深度调优。平台能够统一和混合调度华为昇腾、天数智芯、摩尔线程、海光DCU等异构算力资源。与vLLM、SGLang等单台服务器级推理引擎不同，模域侧重于集群架构级的纳管和优化。其功能涵盖负载和缓存感知的请求路由、统一的KV缓存池、基于服务质量的自动化扩缩容、服务断流自动续写以及基于线上数据的自动化性能调优。通过图形化操作面板和预置部署能力，模域减少了环境配置代码的编写工作，简化了不同芯片集群的适配流程，使技术团队能够更专注于应用开发和业务需求，而非底层系统适配与驱动编译。

影响分析

对于中文开发者与从业者而言，模域的开源具有直接的工程减负价值。分析判断显示，随着国产算力芯片生态日益丰富，企业面临的最大挑战之一便是硬件生态的割裂。模域通过统一的调度层屏蔽底层差异，意味着技术团队不再需要为适配不同的国产芯片重写底层逻辑代码，这显著降低了人力成本和维护复杂度。对于缺乏深厚硬件底层适配经验的传统行业企业，该平台提供的生产级高可用能力（如自动扩缩容、断流续写）使其能够以较低的技术门槛接入前沿大模型服务。这种将“工程能力产品化并开源”的模式，有助于加速国产算力与大模型应用的闭环落地，推动AI基础设施从单一芯片适配向异构资源统一治理的范式转变。

适用边界

模域的优势主要体现在多芯片混合调度和生产级集群管理场景。若企业仅使用单一品牌芯片且具备完善的本地运维团队，或仅关注单台服务器的极致推理延迟而非集群吞吐，直接使用vLLM等底层推理引擎可能更为灵活。此外，平台对模型的支持依赖于社区迭代速度，对于尚未被适配的最前沿小众模型，可能存在部署延迟或不支持的情况。

孤本观察

编辑观察认为，模域强调“生产级”与“开源”的结合，试图填补从开源推理引擎到企业级稳定运行之间的工程空白。这种针对国产异构算力的统一调度方案，在当下“信创”与大模型落地并行的背景下，具备较强的现实针对性。

来源：InfoQ 中文 AI