API、部署、工作流、代码教程与踩坑记录
一句话结论 亚马逊云科技推出基于对话交互的供应链智能方案,将关键业务决策时间从45至60分钟压缩至几分钟。 关键要点 传统供应链操作需跨ERP等五个系统切换十余次,总耗时45到60分钟;新方案通过对话式交互仅需三个提示词,几分钟内即可完成关键中断评估、紧急询价单发起及确认。 架构采用模块化智能体平台
一句话结论 在 Amazon SageMaker HyperPod 上,使用 LoRA 和 GRPO 微调 GPT-OSS-20B 使其多语言推理语言准确率从 22% 跃升至 100%,GRPO 进一步将答案准确率提升 8 个百分点。 关键要点 GPT-OSS-20B 基础模型在 50 例多语言推理
一句话结论 AI 编程代理在大幅提升效率的同时,正在剥夺资深程序员通过解决复杂逻辑谜题获得的职业核心乐趣。 关键要点 2026 年 10 月 19 日,科技博主 Simon Willison 在 Link Blog 发布文章,引用了开发者 Jeremy Scheff 的观点。 Jeremy Sche
一句话结论 AWS 新版注册流程让开发者免信用卡、20秒开通 SageMaker Studio,大幅降低上手门槛。 关键要点 新用户通过 Google、GitHub、Apple、Amazon 或邮箱 2–3 步完成注册,多数情况免信用卡。 注册后约 20 秒自动创建 Studio 环境,落地页与入口
一句话结论 TwelveLabs 的 Pegasus 1.5 视频语言模型正式上线 Amazon Bedrock,支持单请求处理长达 2 小时视频,无需预索引且数据保留在 AWS 边界内。 关键要点 模型于 2026 年 10 月 9 日上线 Amazon Bedrock,主要部署于 us-west
一句话结论 Deepgram 优化 Nova-3 模型在 AWS Trainium2 上的离线批量推理,使每美元处理音频量较此前方案最高提升 70%。 关键要点 Deepgram Nova-3 语音转文本模型已在 AWS Trainium2 上完成离线批量部署,运行于单台 Amazon EC2 tr
一句话结论 vLLM 引入基于推送模式的 KV 连接器,通过重叠计算消除关键路径延迟,高负载下首字时间最高降低 3 倍。 关键要点 基准测试在 Amazon EC2 P5en 实例上,使用 Qwen3-32B 模型(1P1D 架构)进行,通过 EFA 网络连接。 高负载场景下(8 QPS,16k 输
一句话结论 vLLM v0.21.0 新增双向 KV 传输功能,通过预填充与解码节点间共享缓存,显著降低多轮智能体负载的首字延迟。 关键要点 在 vLLM v0.21.0 及更高版本中,启用该功能需配置 NixlConnector 和 KV 缓存感知路由器,并参考 GitHub 复现指南。 测试数据
一句话结论 Simon Willison 发布了 Datasette 插件 llm-tools-datasette 0.1.1,使大语言模型能通过标准工具调用协议直接查询和操作 Datasette 数据界面。 关键要点 插件版本号为 0.1.1,于 2026 年 10 月 18 日发布。 该工具属于
一句话结论 llm-echo 0.5 版本更新了模拟令牌计数机制,将其调整为包含工具调用、系统提示及推理令牌,提升了调试 LLM 应用的准确性。 关键要点 该插件是一个用于调试的“非 LLM 模型”,核心功能是原样返回输入的提示词,不执行任何推理计算。 0.5 版本的主要变更在于更新模拟令牌用量统计