多目标贝叶斯优化(MOBO)是优化昂贵黑盒函数的一种样本高效方法,其目标是充分逼近帕累托前沿,即获得一个同时具备良好收敛性(贴近帕累托前沿)与良好多样性(在前沿上分布广泛)的高质量解集。现有MOBO方法通常试图同时完成这两项任务:一边将搜索推向帕累托前沿,一边维持一组多样化的非支配解,理想情况下让解逐步覆盖整条前沿。
在搜索预算充足时,这种做法是有效的。但论文指出,在整个搜索过程中同时兼顾收敛与多样性并不容易,需要精心的设计;而在预算非常紧张的情况下,可能没有足够多的解被生成,从而无法同时逼近整条帕累托前沿。
针对这一问题,该论文提出“先收敛后多样化”(converge-then-diversify,CTD)方法,把收敛与多样性解耦为两个阶段。第一阶段聚焦收敛,力求快速将搜索推向帕累托前沿上的某一个点;第二阶段聚焦多样性,力求让解在前沿上铺开。论文利用该领域广泛采用的采集函数(acquisition function)给出了CTD的两种简单实例化。
实验结果显示,在全部446组成对比较中,CTD在72.9%的情形下统计上优于当前最先进方法,在21.1%的情形下表现相当,仅在6.1%的情形下统计上更差;这一优势在评估预算极其紧张或高维问题的设定下尤为明显。
该论文以预印本形式发布于arXiv,编号arXiv:2609.13396v1。
来源:arXiv cs.AI