Conformalised data synthesis(基于保形预测的数据合成)
基本信息
- 标题:Conformalised data synthesis
- 作者:Julia A. Meister、Khuong An Nguyen
- 提交日期:2023 年 12 月 14 日(v1);最后修订:2025 年 1 月 10 日(v2)
- 发表信息:已被 Machine Learning 期刊特刊 "Conformal Prediction and Distribution-Free Uncertainty Quantification" 接收
- 报告编号:Meister, J.A., Nguyen, K.A. Conformalised data synthesis. Machine Learning 114, 57 (2025)
- 相关 DOI:https://doi.org/10.1007/s10994-024-06701-0
- arXiv ID:arXiv:2312.08999 [cs.LG]
主题分类
- 主分类:Machine Learning (cs.LG)
- 交叉分类:Machine Learning (stat.ML)
- MSC 分类:68T37
摘要
随着深度学习架构日益复杂,数据合成成为满足"数据饥渴"模型需求的一项极具前景的技术。然而,如何可靠地评估"合成器"模型输出质量仍是一个开放的研究问题,在高风险领域存在显著风险。为解决这一挑战,作者提出了一种独特的合成算法,基于保形预测(Conformal Prediction)框架,从高置信度的特征空间区域生成数据。
作者对该算法进行了多方面的支撑研究:全面探索核心参数的影响、深入讨论实践建议,并在五个基准数据集上进行了广泛的实证评估。为展示该方法在常见现实挑战上的通用性,数据集被精心挑选,涵盖多种困难特征:样本量少、类别不平衡、不可分性。
在所有试验中,加入该算法生成的"高置信度合成数据"后的训练集,其表现至少与原始数据集相当,并常常显著提升深度学习性能,F1 分数最高提升达 61 个百分点。
核心贡献要点
- 提出一种基于保形预测框架的独特数据合成算法,从高置信度特征空间区域生成数据。
- 对算法核心参数的影响进行了全面探索,并给出实践建议。
- 在五个基准数据集上进行广泛实证评估,覆盖低样本量、类别不平衡、不可分性等困难场景。
- 合成数据扩展训练集后,模型性能稳定不劣于原始数据,F1 分数最高提升 61 个百分点。