孤本网
/ 0 阅读
0

亚马逊云科技开放五个亚太区调用 OpenAI GPT-6 系列模型,重塑东南亚 AI 接入架构

一句话结论

亚马逊云科技在五个亚太区域开放调用 OpenAI GPT-6 系列模型,支持跨区域智能路由与严格本地合规。

关键要点

  • GPT-6 Sol 和 GPT-6 Luna 可在亚太(新加坡)、雅加达、马来西亚、泰国及台北五个区域作为源区域调用。
  • GPT-6 Astra 仅支持在亚太(新加坡)区域作为源区域调用,且推理力度不包含 none 级别。
  • 调用时需传入全球跨区域推理配置文件 ID 替代模型 ID,相关计费与审计日志均保留在源区域。
  • GPT-6 配额按每分钟 token 计算,输入和缓存写入 token 按 1:1 计数,每个输出 token 消耗 10 个配额。
  • 被分类器标记的流量由 AWS 保留最长 30 天,特定客户可申请零数据保留,需配置 IAM 策略与 SCP。

背景与事实

亚马逊云科技(Amazon Web Services,AWS)通过其机器学习博客宣布,Amazon Bedrock 现已支持通过全球跨区域推理访问 OpenAI GPT-6 Sol、GPT-6 Luna 及 GPT-6 Astra 模型。这一举措使得企业无需在单一区域部署,即可在亚太范围内的多个节点调用 OpenAI 旗下的最新大语言模型。其中,GPT-6 Sol 和 GPT-6 Luna 可在亚太(新加坡)ap-southeast-1、雅加达 ap-southeast-3、马来西亚 ap-southeast-5、泰国 ap-southeast-7 及台北 ap-east-2 五个区域作为源区域调用;而 GPT-6 Astra 仅可在亚太(新加坡)ap-southeast-1 区域作为源区域调用。亚太(新加坡)区域默认启用,而雅加达、马来西亚、泰国及台北区域需用户先手动激活。

在技术实现层面,所有三个模型均支持文本和图像输入、客户端侧工具使用及提示缓存。GPT-6 Sol 和 GPT-6 Luna 支持 none、low、medium、high、xhigh、max 六种推理力度,GPT-6 Astra 支持除 none 外的其余五种级别。调用时需传入全球跨区域推理配置文件 ID 替代模型 ID,配置文件 ID 包括 global.openai.gpt-6-sol、global.openai.gpt-6-luna 及 global.openai.gpt-6-astra。访问路径涵盖 Amazon Bedrock Converse API、OpenAI Responses API 及 OpenAI Chat Completions API,OpenAI 兼容 API 在 /openai/v1 路径调用,支持 Signature Version 4(SigV4)签名或 Amazon Bedrock API 密钥。值得注意的是,内置 Amazon Bedrock 提供商中仅 amazon-bedrock-runtime 接受推理配置文件,SigV4 签名无需轮换密钥,非默认配置文件需设置 profile 并显式指定 region,否则默认使用 AWS_REGION。

合规与数据治理是此次发布的核心关注点。计费、配额跟踪、AWS CloudTrail 及 Amazon CloudWatch 记录保留在源区域,处理由 Amazon Bedrock 选择的目标区域执行。Amazon Bedrock 通过 IAM 策略和 SCP 控制推理访问,全球跨区推理档案需配置 IAM 策略,涉及 ARN `arn:aws:bedrock:::foundation-model/openai.gpt-6-sol` 及操作 `bedrock:CallWithBearerToken`。启用流式处理需添加 `bedrock:InvokeModelWithResponseStream`。云审计记录每次请求的处理区域,全球跨区域推理配置文件的目的区域以商业区域为准,每次请求的记录位于源区域的云审计 additionalEventData.inferenceRegion。被分类器标记的流量由 AWS 保留最长 30 天,全球推理档案的保留发生在模型部署的支持商业 AWS 区域,特定客户可申请零数据保留。

影响分析

对于中文开发者与从业者而言,这一发布显著降低了在东南亚地区部署 AI 应用的地理限制与合规成本。此前,OpenAI 模型在部分亚太地区的直接访问受限,开发者需通过单一节点中转,导致延迟增加且难以满足本地数据驻留要求。现在,通过在五个不同国家/地区设立源区域,企业可以根据业务所在地选择最近的入口,利用 Amazon Bedrock 的全球路由机制,将实际推理请求调度至最合适的商业区域,从而在保持高性能的同时满足当地数据主权法规。

从工程实践角度看,支持 OpenAI 兼容 API 意味着现有的基于 OpenAI SDK 的应用代码几乎可以零成本迁移,只需更改基础 URL 和密钥即可。然而,配额管理逻辑变得复杂:GPT-6 配额按每分钟 token(TPM)计算,基准为源区域;输入和缓存写入 token 按 1:1 计数,每个输出 token 消耗 10 个配额。例如 2,000 输入和 1,000 输出 token 将消耗 12,000 配额。开发者必须在架构设计阶段即通过 CloudWatch 编码代理洞察仪表板监控 token 使用,并按用户、团队和成本中心分解,避免因配额超限导致服务中断。此外,IAM 与 SCP 的精细化配置要求企业安全团队介入,确保跨区请求的 `aws:RequestedRegion` 设置为 unspecified 时不会被区域白名单拒绝,这是传统 AWS 架构中较少见的权限模型,需要重新审视现有的网络与安全策略。

适用边界

该结论主要适用于依赖 Amazon Bedrock 服务且业务分布在东南亚五地的企业开发者。对于需要超低延迟、对数据驻留有极端强制要求且不依赖跨区域路由机制的场景,此方案可能不适用;因为虽然源区域在本地,但实际处理区域由系统动态选择,若目标区域网络拥堵,延迟仍可能波动。此外,GPT-6 Astra 仅在源区域受限于新加坡,若企业主体不在新加坡,调用 Astra 模型将失去“本地源区域”的合规优势。对于无法配置 IAM 策略与 SCP 的轻量级个人开发者,复杂的权限配置门槛可能使其更倾向于使用原生 OpenAI API 或其他无此合规约束的云厂商服务。

孤本观察

编辑认为,此次发布并非简单的模型上架,而是 AWS 试图将 OpenAI 模型纳入其企业级合规体系的战略性动作。通过强调源区域计费与审计,以及允许配置零数据保留,AWS 实际上是在向对数据主权敏感的金融、政府及医疗行业客户发出信号:即便模型源自 OpenAI,数据治理仍遵循 AWS 的严格标准。这种“模型解耦、合规绑定”的策略,是云厂商在 AI 原生时代争夺企业市场的关键护城河。

常见问题

GPT-6 Astra 模型支持哪些推理力度级别?

支持 low、medium、high、xhigh、max 五种级别,不包含 none 级别。

调用 GPT-6 模型时,输入和输出 token 如何消耗配额?

输入和缓存写入 token 按 1:1 计数,每个输出 token 消耗 10 个配额。

哪些 GPT-6 模型可以在雅加达、马来西亚、泰国及台北区域作为源区域调用?

GPT-6 Sol 和 GPT-6 Luna 可以在这五个区域(含新加坡)作为源区域调用。

被分类器标记的流量在 AWS 保留多长时间?

默认保留最长 30 天,特定客户可申请零数据保留。

调用 GPT-6 模型时,应传入什么 ID 替代模型 ID?

需传入全球跨区域推理配置文件 ID,如 global.openai.gpt-6-sol。

来源:AWS Machine Learning Blog