实测、横评、价格、性能与适用人群
一句话结论 研究提出 DScout 框架,通过分解位置损失与吞吐量公式指导扩散模型推测解码的训练和推理,在 Qwen3 模型上实现 3.84 至 4.14 倍加速。 关键要点 扩散模型推测解码面临核心矛盾:更高的平均接受 token 数(MAT)并不必然带来更高吞吐量,因为验证环节只接受连续前缀,早
一句话结论 声明式断点将保形可靠性与频率校准分离,重置递归法在独立评分及有界评分场景下分别达到理论最优或最优频率间隙。 关键要点 该研究提出一种基于声明式边界(Announced Boundary)的重置机制,该机制在首次受影响的结局之前揭示分割,并服务于两类独立的审计:逐时审计(Per-time
一句话结论 SAGE-CP 通过路由分层校准修复自适应视觉语言模型集成中边缘覆盖掩盖的路由级失效,将最坏路由覆盖率从 0.623 提升至 0.887。 关键要点 SAGE-CP 管线采用三阶段流程:在开发数据上学习路由器,冻结所有路由决策,并对提前退出与升级输入分别校准返回分数 在 10 个基准、4
一句话结论 PolyGraph 通过计划缓冲区机制,以 28 字节的传输成本解决自适应推测解码中 CUDA Graph 固定形状与动态批处理尺寸冲突的问题。 关键要点 传统服务系统在处理自适应推测解码时需为 64 种不同形状预捕获 CUDA Graph,或在线捕获新形状,或将每一步填充至最大草稿长度
一句话结论 研究者提出条件动作世界模型,将电子病历中的状态与动作分离建模,用 30 倍更少的参数实现与大型基础模型相当的预测性能。 关键要点 该模型将患者历史表示为动作条件的潜在轨迹,避免纯自回归令牌预测,显式区分状态与临床动作 核心组件为状态依赖的线性化预测器,支持时间分辨预测、多步推演和动作条件
一句话结论 Web Agent 在真实环境中引入成本与失败风险约束后,可在相同完成率下显著降低单位成本与失败率。 关键要点 该研究提出一种带约束的 agentic reinforcement learning(代理式强化学习)模型,将页面访问、搜索请求、外部 API 调用统一进长期决策框架并显式计入
一句话结论 新框架TABHGR+将大语言模型零样本表格学习的LLM调用次数降至与数据规模无关的常数级,成本与准确率显著改善。 关键要点 TABHGR+基于列与任务描述由LLM生成规则,为所有行分配弱标签,随后以超图分组语义相关行做标签传播,并用标签自适应权重增强超边。 该框架所需LLM调用次数为常数
一句话结论 研究发现曾成功学习特定事实绑定关系的大模型,在后续微调中恢复该知识的速度显著快于仅接触实体未学习关系的对照组,表明当前行为准确率低估了历史经验的影响。 关键要点 基于 Qwen2.5-1.5B 模型,实验设计包含 LEARNED(已学习正确绑定)、CONTROL(匹配曝光未学习绑定)与
一句话结论 TRACE 将每层 Transformer 的后注意力残差处 VQ 编码替换为码本索引,把“传输后投影”瓶颈化简为查表,端到端提速最多 1.27 倍并降低通信 22,624 倍。 关键要点 论文题为 TRACE: Transformer Residual Activation Codeb
一句话结论 物理标签提示语显著提升大语言模型早期校准效率,但混合优化策略以更少模拟运行次数实现更高精度。 关键要点 在25次试验中,首次物理增强的大语言模型建议在23次中改善了初始设计。 经过5次评估后,物理增强组的中位校准误差比无物理信息对照组低21.9倍。 大语言模型的解码器变异性导致其性能分布