孤本网
/ 0 阅读
0

亚马逊 SageMaker AI 无服务器训练会话正式推出,支持多种模型微调且无需管理 GPU

一句话结论

SageMaker AI 无服务器模型自定义功能全面开放,允许用户在不管理 GPU 的情况下执行复杂训练,降低大模型定制门槛。

关键要点

  • SageMaker AI 无服务器训练会话支持 SFT、DPO、RLVR、RLAIF 及多轮强化学习等多种高级微调技术,实现全面可用。
  • 该功能支持 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 及 Qwen3.8-27B 等特定开源模型。
  • 用户可在单一定义的训练循环中编写自定义损失函数或奖励信号,平台自动处理 GPU 资源分配、分布式执行及故障恢复。
  • 每个训练会话使用用户创建的 AWS IAM 执行角色,支持配置 AWS KMS 密钥和 VPC 网络参数以增强安全性。
  • 训练数据与模型检查点严格保留在用户指定的 AWS 区域 Amazon S3 桶中,平台承诺不使用用户数据训练其他模型。

背景与事实

亚马逊 SageMaker AI 近期宣布其无服务器模型自定义功能进入全面可用阶段,核心亮点是引入了“训练会话”机制。这一机制允许开发者在无需管理底层基础设施的情况下,完全掌控后训练逻辑。具体而言,用户可以编写和协调训练循环、自定义损失函数或奖励信号,而 SageMaker AI 负责处理 GPU 资源分配、分布式执行、故障恢复以及检查点存储等底层复杂任务。

在技术支持层面,该功能涵盖了监督微调、直接偏好优化、可验证奖励强化学习、人工反馈强化学习以及多轮强化学习等多种主流技术路径。用户可以选择使用 LoRA 低秩适应或全参数微调,甚至可以将多种技术串联起来进行持续定制。对于智能体训练场景,多轮强化学习被视为关键技术,例如在旅行预订、工单分诊或多步骤研究场景中,训练循环涉及不同计算需求下的训练、推理、评分和更新过程。SageMaker AI 将这些过程作为托管的无服务器技术提供,允许用户在同一个循环中集成自定义组件。

在安全与合规方面,每个训练会话都使用用户创建的 AWS IAM 执行角色,支持添加 AWS KMS 密钥和 VPC 配置。所有训练数据与模型检查点均保留在用户指定的 AWS 区域内的 Amazon S3 桶中,确保数据主权。平台明确声明不会使用用户数据或自定义权重去训练其他模型。此外,在部署前,用户可以对模型的准确性、偏见及安全性进行评估;部署后则通过应用防护栏并使用 Amazon CloudWatch 进行持续监控,用户可继续沿用团队现有的治理流程。

SageMaker AI 还提供了一个训练会话食谱(Cookbook),包含具体的示例、用例以及模型自定义代理技能。该代理能够处理数据准备、技术选择、训练、评估和部署等任务,并支持在 SageMaker Studio、Kiro、Claude Code、Codex 或 GitHub Copilot 中工作。针对实际案例,ImagineSoftware 利用无服务器训练会话构建了医疗理赔拒赔分诊模型,其低级别 API 提供了对前向/反向传播、采样及优化器步骤的控制。Karini AI 则使用该平台针对 Amazon Neptune 知识图谱微调了 gpt-oss-20b 模型以支持多轮工具调用,平台处理的检查点恢复机制保证了可靠性,避免了手动调优或内存溢出问题。

影响分析

对中文开发者与从业者而言,这一变化极大地降低了大模型定制化的工程壁垒。过去,要实现多轮强化学习或复杂的偏好优化,团队通常需要自行维护昂贵的 GPU 集群并处理分布式训练的稳定性问题。如今,SageMaker AI 将这些底层复杂性封装在无服务器架构中,使得开发者可以将精力集中在核心业务逻辑、奖励函数设计及模型行为调优上,显著提升了研发效率。

从技术落地角度看,支持 gpt-oss-20b 和 Qwen 系列模型意味着中文生态内的主流开源大模型能够直接受益于这一基础设施改进。开发者可以利用托管的多轮 RL 能力训练更复杂的智能体,而无需担心底层算力波动。然而,这也要求团队重新审视现有的 MLOps 流程,将治理、安全监控(如 CloudWatch 和防护栏)更深度地集成到训练会话的生命周期中,以确保合规性与安全性。

适用边界

该结论仅适用于使用 AWS SageMaker AI 平台且目标模型在官方支持列表(如 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 等)内的场景。对于不在支持列表中的自研模型或非 AWS 云环境,此无服务器托管优势不直接成立。此外,虽然平台提供无服务器体验,但用户仍需具备 IAM、KMS 及 VPC 配置的管理能力,并负责在训练前后进行合规性评估,并非完全免除数据治理责任。

孤本观察

本次更新将高级强化学习技术纳入无服务器托管范畴,是云厂商从“算力提供商”向“模型工程工作流提供商”转型的显著标志,意味着基础设施层正在进一步吸收算法层的工程复杂度。

常见问题

SageMaker AI 无服务器训练会话支持哪些具体的开源模型?

支持 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 及 Qwen3.8-27B 等特定开源模型。

该无服务器训练功能支持哪些高级微调技术路径?

支持监督微调 (SFT)、直接偏好优化 (DPO)、可验证奖励强化学习 (RLVR)、人工反馈强化学习 (RLAIF) 及多轮强化学习。

训练数据和模型检查点存储在哪里,平台是否会使用这些数据?

数据与检查点严格保留在用户指定的 AWS 区域 Amazon S3 桶中,平台承诺不使用用户数据或自定义权重训练其他模型。

如何配置以增强无服务器训练会话的安全性?

使用用户创建的 AWS IAM 执行角色,并支持配置 AWS KMS 密钥和 VPC 网络参数。

除了传统微调,该功能是否支持将多种技术串联使用?

支持,用户可以选择 LoRA 或全参数微调,并将多种技术串联起来进行持续定制。

来源:AWS Machine Learning Blog