菜单
一句话结论 KVLearn 通过引入成本感知的学习框架，将解耦 LLM 服务中的首字延迟最高降低 56%，并减少节点间传输量。 关键要点 KVLearn 是一个面向解耦 LLM 服务的成本感知 KV 缓存保留框架，由轻量级前缀重用预测器（PRP）、成本感知保留评分（CARS）和自适应阈值控制器（AT
一句话结论 Anthropic 旗下 AI 助手 Claude 通过自主设计能结合蝎毒的蛋白质结合剂，为每年致三千余人死亡的中毒提供潜在解法。 关键要点 Claude 在单次提示后自主运行 24 小时，共生成 318,484 个针对四种蝎子五种毒素的蛋白质结合剂设计方案。 研究团队从 Claude
一句话结论 研究指出，大模型在高预测准确率下可能存在概念未真正恢复的问题，需通过组件级分解与联合监督提升可解释性。 关键要点 现有大模型在上下文学习中常呈现“预测准确但概念未恢复”的分离现象，预测成功不等于底层概念掌握。 研究提出组件级概念恢复框架，将概念分解为关键组成要素，并通过控制性结构干预评估
一句话结论 miniTE 框架通过跨引擎数值对齐技术，解决原生低比特强化学习中的执行间隙问题，在保持 BF16 级别精度的同时显著提升吞吐量。 关键要点 提出轻量级框架 miniTE，结合执行诊断、跨引擎数值对齐及高效的 W4A4（4-bit 权重和激活）GEMM 计算。 实验证明，仅匹配模型权重和
一句话结论 研究发现对比式总结法在组合评估模式下预测精度最高，且推理成本远低于逐会话预测法。 关键要点 两种设计选择存在偏差-方差权衡：会话级预测保留细节但需大量调用以降低方差，总结法降低成本但可能丢失预测性细节而引入偏差。 对比式总结（将多个产品放在同一提示中比较）在15种评估场景中有12种取得了