一句话结论
ZoAQ 通过复用历史查询实现自适应零阶优化，显著降低计算成本而不损失精度。
关键要点
- ZoAQ 是自适应零阶优化方法，通过查询复用避免额外验证开销
- 在合成目标函数上，相比固定预算基线减少 43-48% 的查询次数，基准使用 120 万次查询
- 黑盒攻击中，在 MNIST 上平均 320 次查询、CIFAR-10 上 625 次查询即可达 100% 成功率
- 四个 OPT 微调场景中，相比固定 K=4 减少 43-46% 前向评估，精度变化在 -0.018 到 +0.010 之间
背景与事实
该研究于 2026 年 8 月 19 日提交至 arXiv 机器学习板块，论文编号为 2609.22115。零阶优化通过函数值评估估计更新方向，扰动查询构成主要计算成本。现有方法中，固定预算策略在每个步骤分配相同查询数，而自适应控制器虽能节省资源，却需额外调用验证器测试估计器可靠性，抵消了部分收益。
ZoAQ 的核心创新在于查询复用机制：不再丢弃历史步骤的评估结果，而是将其同时用于下一步更新和是否继续查询的决策。这种设计使自适应查询分配无需额外验证查询。理论分析刻画了这种一致性如何识别支持下降的更新，并指导控制器确定充足查询预算。
实验结果涵盖三类场景。合成目标函数测试中，ZoAQ 以 120 万次查询为基准，相比固定基线减少 43-48% 查询量。对抗性攻击测试中，在 MNIST 数据集上平均 320 次查询、CIFAR-10 上 625 次查询即达 100% 成功。微调实验中，四个 OPT 模型设置下，相比固定 K=4 基线节省 43-46% 前向评估，任务内精度波动控制在 -0.018 至 +0.010 区间。
影响分析
对中文开发者而言，这一研究提供直接的工程优化路径。零阶优化广泛应用于黑盒场景，如 API 调用受限的模型对抗、隐私保护学习等。ZoAQ 的查询复用机制可集成到现有优化器框架中，无需修改模型架构。
对于从业者，显著的性能提升意味着实际部署成本的降低。在黑盒攻击场景，查询效率提升 43-48% 直接缩短攻击时间窗口；在微调场景，前向评估节省可转化为 GPU 计算资源的节约。精度波动控制在 0.018 以内表明该方法在效率与效果间取得良好平衡，适合生产环境采用。
适用边界
该结论基于合成目标函数、MNIST/CIFAR-10 数据集及 OPT 模型微调场景得出。对于高维参数空间、非凸度更高的目标函数或需极高精度的场景，查询复用策略的适应性可能下降。此外，该方法假设历史查询与当前状态存在可复用性，在快速变化的优化轨迹中可能失效。
孤本观察
查询复用将零阶优化从"评估-丢弃"范式转向"评估-复用"范式，这一设计思路可能启发其他自适应算法领域。固定 K=4 作为基线表明实用中常用小查询预算，ZoAQ 在该点实现近半效率提升具有实际意义。
常见问题
ZoAQ 在合成目标函数测试中相比固定基线减少了多少查询量？
在合成目标函数上，ZoAQ 相比固定预算基线减少了 43% 至 48% 的查询次数，基准使用了 120 万次查询。
ZoAQ 在 MNIST 和 CIFAR-10 黑盒攻击中分别需要多少次查询达到 100% 成功率？
在 MNIST 数据集上平均 320 次查询，在 CIFAR-10 上 625 次查询，均可达到 100% 成功率。
ZoAQ 在 OPT 模型微调实验中相比固定 K=4 基线节省了多少前向评估？
在四个 OPT 微调场景中，ZoAQ 相比固定 K=4 基线减少了 43% 至 46% 的前向评估次数。
ZoAQ 在微调实验中任务内精度波动范围是多少？
精度变化控制在 -0.018 到 +0.010 之间，表明该方法在效率与效果间取得了良好平衡。
ZoAQ 的查询复用机制为何无需额外验证开销？
该机制将历史步骤的评估结果同时用于下一步更新和决策是否继续查询，使自适应查询分配无需调用额外验证器。
来源：arXiv cs.LG