孤本网
发布于 2026-09-16 / 0 阅读
0
0

使用 Amazon SageMaker 无服务器模型定制构建 AI 驱动的产品打标系统

零售商品目录很少以干净、结构化的属性形式出现。产品名称、描述和类目路径来自多个来源,并且持续变化。搜索、推荐和目录导航都依赖一致的标签,但人工为数千个库存单位(SKU)打标不仅缓慢,而且难以保持一致。

通用前沿模型可以通过提示工程生成标签,但高频打标工作流通常有更窄的目标:以一致的 schema 返回正确的属性。当分类体系稳定、输出可以程序化评分时,定制一个较小的开放权重模型可能更适合这类任务。采用这种方法,可以直接教会模型 schema,并优化漏标与多余标签之间的权衡,同时避免为工作流每次请求并不需要的广泛能力付费。

在本次演练中,官方使用监督微调(SFT)定制 Qwen3-8B,随后使用群组相对策略优化(GRPO)和带可验证奖励的强化学习(RLVR)对其进行优化。Amazon SageMaker serverless model customization 负责管理训练容量,而优化后的模型则单独部署到 Amazon SageMaker Asynchronous Inference,用于面向批处理的目录丰富。

关于无服务器方式与 Amazon SageMaker Training Jobs(SMTJ)的差异,来源指出,amazon-sagemaker-examples 仓库中此前的 Qwen3-8B 示例使用 SageMaker Training Jobs,由客户自行选择 GPU 实例和自定义训练镜像;而本次演练使用 Amazon SageMaker Python SDK v3 的无服务器定制训练器(SFTTrainer 和 RLVRTrainer)。当未提供计算配置时,Amazon SageMaker 会为该定制作业选择并释放训练容量。

在开始之前,需要准备相应资源并使用最小权限。权限与资源要求包括:Amazon SageMaker AI 权限,用于管理无服务器定制作业、AI Registry 数据集与评估器、模型包组、模型、端点、异步推理以及在需要时的 iam:PassRole;Amazon Simple Storage Service(Amazon S3)访问权限,用于读写源目录、转换后的训练数据、模型产物、异步推理请求和输出;Amazon Elastic Container Registry(Amazon ECR)访问权限,仅在构建并托管 vLLM 推理镜像时需要,无服务器 SFT 和 RLVR 不需要自定义训练镜像;


评论