OA0
OA0 是一个探索 AI 的社区
现在注册
已注册用户请  登录
OA0  ›  论文  ›  abs/2312.08999

Phi-2:用高质量数据训练的小型语言模型表现出色

 
  quota ·  2026-09-24 11:01:15 · 13 次点击  · 0 条评论  

Conformalised data synthesis(基于保形预测的数据合成)

基本信息

  • 标题:Conformalised data synthesis
  • 作者:Julia A. Meister、Khuong An Nguyen
  • 提交日期:2023 年 12 月 14 日(v1);最后修订:2025 年 1 月 10 日(v2)
  • 发表信息:已被 Machine Learning 期刊特刊 "Conformal Prediction and Distribution-Free Uncertainty Quantification" 接收
  • 报告编号:Meister, J.A., Nguyen, K.A. Conformalised data synthesis. Machine Learning 114, 57 (2025)
  • 相关 DOI:https://doi.org/10.1007/s10994-024-06701-0
  • arXiv ID:arXiv:2312.08999 [cs.LG]

主题分类

  • 主分类:Machine Learning (cs.LG)
  • 交叉分类:Machine Learning (stat.ML)
  • MSC 分类:68T37

摘要

随着深度学习架构日益复杂,数据合成成为满足"数据饥渴"模型需求的一项极具前景的技术。然而,如何可靠地评估"合成器"模型输出质量仍是一个开放的研究问题,在高风险领域存在显著风险。为解决这一挑战,作者提出了一种独特的合成算法,基于保形预测(Conformal Prediction)框架,从高置信度的特征空间区域生成数据。

作者对该算法进行了多方面的支撑研究:全面探索核心参数的影响、深入讨论实践建议,并在五个基准数据集上进行了广泛的实证评估。为展示该方法在常见现实挑战上的通用性,数据集被精心挑选,涵盖多种困难特征:样本量少、类别不平衡、不可分性。

在所有试验中,加入该算法生成的"高置信度合成数据"后的训练集,其表现至少与原始数据集相当,并常常显著提升深度学习性能,F1 分数最高提升达 61 个百分点。

核心贡献要点

  1. 提出一种基于保形预测框架的独特数据合成算法,从高置信度特征空间区域生成数据。
  2. 对算法核心参数的影响进行了全面探索,并给出实践建议。
  3. 在五个基准数据集上进行广泛实证评估,覆盖低样本量、类别不平衡、不可分性等困难场景。
  4. 合成数据扩展训练集后,模型性能稳定不劣于原始数据,F1 分数最高提升 61 个百分点。
13 次点击  ∙  0 人收藏  
登录后收藏  
0 条回复
关于 ·  帮助 ·  PING ·  隐私 ·  条款   
OA0 - Omni AI 0 一个探索 AI 的社区
沪ICP备2024103595号-2
耗时 11 ms
Developed with Cursor