ISTS 提出 12 参数线性模型实现图神经网络校准与点云分割的可解释性提升

一句话结论

ISTS 以 12 参数线性模型提升图神经网络与点云分割校准效果，其温度缩放策略在可解释性与性能上优于传统方法。

关键要点

• ISTS（Interpretable Structural Temperature Scaling，可解释结构温度缩放）采用 12 参数线性模型，根据节点置信度、邻域属性及与标记节点距离等描述符设定温度，确保校准过程可追溯至具体描述符贡献。
• 在测试节点上，ISTS 在节点组级别具有忠实性：对过度自信组进行软化，对置信不足组进行锐化，在 246 个组中 Spearman 相关系数达到 0.67，证明其解释与实际调整方向一致。
• 在涵盖 7 种图、2 种骨干网络（GAT_v1.0 和 GCN_v1.0）及 11 个基线的对比中，ISTS 在负对数似然（NLL）和 Brier 分数上的平均排名最佳，相比全局温度缩放（TS）降低 NLL 1.8%，且增益超过同等拟合的基于熵的温度方法。
• 在预先固定协议的 4 个留出图上，ISTS 再次排名第一；当校准节点数达到约 100 个及以上时，ISTS 成为廉价且可检查的校准选择，在点云分割任务中显著改善 NLL、Brier 分数及点拒绝的排名。
• 补充数据文件涵盖图神经网络、点云分割及解释性脚本三大模块，包含 Pubmed、Cora 等 7 个标准图数据集的 JSONL 文件、扰动参数测试文件（如 dropout 0.5/0.75、jitter 0.01-0.04）及 20 余个处理脚本，支持完整复现。

背景与事实

该研究提出可解释结构温度缩放（ISTS），旨在解决图神经网络（GNNs）在概率校准中缺乏可解释性的问题。传统温度缩放（TS）仅使用单一全局参数，无法反映不同节点或区域对置信度的差异化需求。ISTS 通过引入 12 个参数的线性模型，将温度设定与节点的命名描述符挂钩，包括节点自身置信度、邻域结构特征以及与标记节点的距离。这种设计使得温度调整不再是一个黑箱操作，而是可以追溯至每个描述符的具体贡献，从而在保留原始预测分布的同时，实现更精细的概率校准。交叉验证正则化的引入允许校准数据决定模型偏离全局温度缩放的程度，避免了过拟合风险，确保模型在简单性与性能之间取得平衡。

在实验设置上，研究团队在 7 个图数据集、2 种骨干网络（GAT_v1.0 和 GCN_v1.0）和 11 个基线方法上进行了全面评估。结果表明，ISTS 在负对数似然（NLL）和 Brier 分数两项核心指标上均取得平均最佳排名。具体而言，相比全局温度缩放，ISTS 将 NLL 降低了 1.8%，且性能增益超过了同等拟合能力的基于熵的温度方法。此外，在预先固定协议的 4 个留出图上，ISTS 同样排名第一，显示出良好的泛化能力。值得注意的是，当校准节点数达到约 100 个及以上时，ISTS 展现出“廉价且可检查”的特性，成为实际应用中极具吸引力的校准选择。

在点云分割领域，ISTS 同样表现出显著优势。补充数据中的点云分割部分包含 CSV、TXT、JSONL 格式文件，如 `pc_all.csv` 和 `boot400_r3_clean.txt`。`corrupt_r3` 子目录提供了不同扰动参数的测试文件，包括 dropout 0.5、dropout 0.75、jitter 0.01、0.02、0.04 等，用于评估模型在噪声环境下的鲁棒性。`r3` 目录包含校准（calib）和区域（regions）数据，`r4_grasp` 目录则包含抓取相关数据及 PowerShell 脚本 `run_grasp.ps1`。实验显示，ISTS 在点云分割中显著改善了 NLL、Brier 分数及点拒绝的排名，证明该方法不仅适用于图结构，也能有效迁移至点云这一非结构化数据领域。

补充数据文件结构清晰，分为图神经网络数据、点云分割数据及解释性与辅助脚本三部分。图神经网络数据位于 `supplementary_data/graphs/wats/` 及 `second_machine` 目录，包含 GAT_v1.0 和 GCN_v1.0 版本的 JSONL 文件，涉及 Pubmed、Computers、CS、Photo、Physics、Citeseer、Cora 等标准数据集。解释性模块位于 `supplementary_data/interpretation/`，包含节点解释、R3/R5 解释脚本及共线性与忠实度分析文件。辅助脚本目录 `supplementary_data/scripts/` 包含 `calibrate.py`、`make_main_table.py`、`pc_boot.py` 等 20 余个处理脚本，以及 `hots_port_check` 目录下的端口检查脚本，为完整复现研究结果提供了充分支持。

影响分析

对中文开发者与从业者而言，ISTS 提供了将概率校准从“黑箱”转向“白箱”的实用工具。在图神经网络应用（如社交网络分析、分子结构预测）中，校准结果的可靠性直接影响下游决策。ISTS 的可追溯性使得工程师能够明确知道哪些节点特征（如邻域稀疏性或距离标记节点远）导致了置信度调整，这有助于在安全关键领域（如医疗诊断、自动驾驶感知）中建立信任。分析判断认为，当校准数据量有限（约 100 节点以上）时，ISTS 的 12 参数模型比复杂非线性方法更易收敛且过拟合风险更低，适合中小规模团队快速部署。

在点云分割场景中，ISTS 对 NLL 和 Brier 分数的改善意味着模型对“不确定区域”的识别更准确。分析判断认为，这将直接提升 3D 视觉系统在机器人抓取、SLAM 等任务中的鲁棒性，因为系统可以依据校准后的置信度动态调整控制策略，而非盲目依赖原始预测。ISTS 的“廉价且可检查”特性降低了工业落地门槛，无需额外标注数据即可通过交叉验证正则化优化校准效果。

适用边界

本文结论主要基于 7 个标准图数据集、2 种骨干网络及点云分割实验。分析判断认为，ISTS 在极端稀疏图（节点数远少于 100）或超高维特征空间中，其 12 参数线性模型可能无法捕捉复杂非线性关系，此时基于深度学习的校准方法或许更优。此外，ISTS 的忠实性指标（Spearman 0.67）在 246 个组上测得，在组数更少或分布极度偏斜的场景下，该相关性可能减弱，需重新验证解释的准确性。ISTS 依赖于节点描述符的明确定义，对于无法提取结构化特征的非图数据（如纯图像像素），需额外设计描述符映射策略方可应用。

孤本观察

分析判断认为，ISTS 将校准问题从“参数估计”重构为“结构解释”的范式转换，其 12 参数设计在复杂度与可解释性间取得了罕见平衡。补充数据中提供的 20 余个脚本及扰动测试文件，构成了目前公开资料中较为完整的“校准即解释”工作流，为后续研究提供了可复现基准。

来源：arXiv cs.LG