数据集简介
Salesforce/wikitext 是一个基于维基百科文本构建的纯文本数据集，主要用于语言建模和文本生成任务。
主要用途
该数据集主要用于训练和评估语言模型，是自然语言处理（NLP）领域的一个经典基准数据集。
数据类型/模态
规模或统计信息
- 数据集包含约 371 万行文本数据。
- 在社区中非常受欢迎，下载量超过 82.7 万次。
使用场景
- 语言模型预训练与微调：作为训练GPT等自回归语言模型的语料。
- 模型性能基准测试：常用于评估模型在文本生成、续写任务上的困惑度（Perplexity）等指标。
- 文本分析研究：提供高质量的维基百科风格文本，可用于各种文本分析实验。