一句话结论
SageMaker JumpStart 新增控制台直连与 Hugging Face 集成，并提供自动化脚本以量化模型延迟与生成速率。
关键要点
- Amazon SageMaker JumpStart 的 Model Hub 现支持在 SageMaker AI 控制台直接浏览目录、查看示例笔记本，并能在 SageMaker Studio 中打开模型。
- 新增预配置端点部署选项，提供针对生成式 AI 及 Neuron 优化配置的命名预设，旨在优化低成本、低延迟或通用工作负载的性能。
- 引入 Hugging Face 到 SageMaker AI 的单次点击深度链接集成，用户可通过 Python 脚本实现从模型发现、部署到性能测试的自动化流程。
- 自动化测试脚本可测量单次请求延迟、近似输出长度及单次请求生成速率，例如对 Qwen3-5-27B 模型实测延迟为 9.07 秒，生成速率约为 16.9 词/秒。
背景与事实
亚马逊云科技（Amazon Web Services，AWS）最近对其核心机器学习平台 Amazon SageMaker JumpStart 进行了功能增强。此次更新主要围绕降低大语言模型（LLM）部署门槛及标准化性能评估流程展开。首先，JumpStart 的 Model Hub 界面得到了改进，现在支持用户直接在 Amazon SageMaker AI 控制台中浏览预训练模型目录。这一改变允许用户在不离开控制台界面的情况下查看示例笔记本，并直接通过链接在 SageMaker Studio 中打开这些模型，从而简化了从发现到开发的工作流。
其次，AWS 引入了预配置的端点部署选项。这些选项提供了一系列命名配置，专门针对优化低成本、低延迟或通用工作负载场景设计。这些配置涵盖了多种生成式 AI 模型，并特别包含了针对 AWS Neuron 芯片优化的配置，使得用户能够根据硬件特性选择最适合的部署方案。此外，SageMaker JumpStart 新增了对 Hugging Face 的单次点击深度链接集成。这一功能允许开发者直接在 Hugging Face 模型页面跳转到 SageMaker AI 进行部署，无需手动查找模型 ID 或配置参数。
为了进一步辅助开发者评估模型性能，AWS 提供了一套可复用的 Python 脚本。该脚本执行三个主要步骤：首先，利用 `list_jumpstart_models` 函数从 JumpStart 目录中发现并部署模型；其次，运行特定的提示词以测量关键性能指标；最后，执行清理操作以删除测试端点。该模式适用于大多数兼容模型，但开发者需要根据具体的负载格式、实例类型、最终用户许可协议（EULA）要求以及响应模式进行适当调整。
在代码实现层面，示例脚本调用了 `sagemaker.core.jumpstart.notebook_utils.list_jumpstart_models` 进行模型检索。默认配置中，区域参数设置为 us-east-1，过滤条件包括任务类型为 textgeneration（文本生成）或模型 ID 中包含 qwen。在实际部署案例中，脚本指定 MODEL_ID 为 huggingface-vlm-qwen3-5-27b，MODEL_VERSION 为 1.13.0。代码通过 `JumpStartModelsAccessor` 获取模型规格，提取 default_inference_instance_type 作为推荐实例类型，并使用 `ModelBuilder.from_jumpstart_config` 结合 `Compute` 类进行构建，设置 instance_count 为 1，最终执行 `model_builder.deploy` 创建端点并记录部署耗时。
影响分析
对于中文开发者及 AI 从业者而言，这一更新显著降低了在云上快速验证开源大模型性能的工程成本。以往，部署 Hugging Face 上的热门模型如 Qwen 系列往往需要手动解析模型架构、匹配实例类型并编写推理代码。现在，通过预配置端点和单次点击集成，开发者可以更专注于应用层逻辑，而非底层基础设施的配置。特别是针对低成本和低延迟场景的预设配置，使得企业在资源有限或边缘计算场景下的模型部署决策更加明确。
自动化性能评估脚本的引入具有重要的实际意义。在模型选型阶段，延迟和吞吐量（如每秒生成的词数）往往是决定用户体验的关键指标。该脚本通过统一测试提示（如"What is deep learning?"）并量化延迟（9.07 秒）、输出长度（约 153 词）及生成速率（16.9 词/秒），为不同模型间的横向对比提供了客观数据支持。这意味着开发者可以基于平衡质量、速度与成本的原则，更科学地选择适用于特定业务场景的模型，而非仅凭参数规模大小进行盲目选择。
适用边界
需要明确的是，该自动化评估模式并非适用于所有场景。首先，代码示例中涉及的模型部署依赖于特定的区域（us-east-1），其他区域的可用性可能受限。其次，脚本中的测试输入是固定的短文本提示，对于长上下文窗口或复杂多模态任务，其延迟和速率指标可能无法真实反映生产环境下的性能表现。此外，不同模型对负载格式（Load Format）和响应解析的要求各异，直接复用脚本可能需要针对特定模型的 EULA 授权机制和推理 API 接口进行修改。因此，该工具更适合用于初步的基准测试（Benchmarking）和快速原型验证，而非替代完整的生产环境压力测试。
孤本观察
AWS 将性能评估脚本与部署流程绑定，体现了其从“提供模型目录”向“提供模型决策工具”的战略延伸。通过标准化测试用例，AWS 试图引导用户形成基于量化指标而非品牌知名度进行模型选型的习惯，这一做法在开源大模型同质化竞争加剧的背景下尤为关键。
常见问题
SageMaker JumpStart 自动化脚本对 Qwen3-5-27B 模型实测的延迟和生成速率是多少？
实测延迟为 9.07 秒，生成速率约为 16.9 词/秒，近似输出长度为 153 词。
示例代码中指定部署 Qwen3-5-27B 模型时使用的 MODEL_ID 和 MODEL_VERSION 分别是什么？
MODEL_ID 为 huggingface-vlm-qwen3-5-27b，MODEL_VERSION 为 1.13.0。
新增的预配置端点部署选项主要优化哪些场景，并包含针对哪种芯片的特定配置？
优化低成本、低延迟或通用工作负载场景，包含针对 AWS Neuron 芯片优化的配置。
自动化性能评估脚本适用于所有场景吗，存在哪些主要限制？
不完全适用。限制包括依赖 us-east-1 区域、测试输入为固定短文本、需调整 EULA 及响应模式，适合基准测试而非生产压测。