# Qwen2 Technical Report
## 标题
Qwen2 Technical Report
## 作者
An Yang, Baosong Yang, Binyuan Hui, Bo Zheng, Bowen Yu, Chang Zhou, Chengpeng Li, Chengyuan Li, Dayiheng Liu, Fei Huang, Guanting Dong, Haoran Wei, Huan Lin, Jialong Tang, Jialin Wang, Jian Yang, Jianhong Tu, Jianwei Zhang, Jianxin Ma, Jianxin Yang, Jin Xu, Jingren Zhou, Jinze Bai, Jinzheng He, Junyang Lin, Kai Dang, Keming Lu, Keqin Chen, Kexin Yang, Mei Li, Mingfeng Xue, Na Ni, Pei Zhang, Peng Wang, Ru Peng, Rui Men, Ruize Gao, Runji Lin, Shijie Wang, Shuai Bai, Sinan Tan, Tianhang Zhu, Tianhao Li, Tianyu Liu, Wenbin Ge, Xiaodong Deng, Xiaohuan Zhou, Xingzhang Ren, Xinyu Zhang, Xipin Wei, Xuancheng Ren, Xuejing Liu, Yang Fan, Yang Yao, Yichang Zhang, Yu Wan, Yunfei Chu, Yuqiong Liu, Zeyu Cui, Zhenru Zhang, Zhifang Guo, Zhihao Fan
## 摘要
本文介绍了 Qwen2 系列，这是我们在大型语言模型和多模态模型方面的最新成果。我们发布了一套全面的基础模型和指令微调语言模型，参数量从 0.5B 到 72B 不等，包括密集模型和混合专家（MoE）模型。Qwen2 超越了大多数先前的开源模型，包括其前代 Qwen1.5，并在语言理解、生成、多语言能力、编程、数学和推理等多个基准测试中展现出与专有模型相竞争的性能。
旗舰模型 Qwen2-72B 表现出色：作为基础语言模型，在 MMLU 上获得 84.2 分，GPQA 上获得 37.9 分，HumanEval 上获得 64.6 分，GSM8K 上获得 89.5 分，BBH 上获得 82.4 分。其指令微调版本 Qwen2-72B-Instruct 在 MT-Bench 上获得 9.1 分，Arena-Hard 上获得 48.1 分，LiveCodeBench 上获得 35.7 分。此外，Qwen2 展示了强大的多语言能力，精通约 30 种语言，包括英语、中文、西班牙语、法语、德语、阿拉伯语、俄语、韩语、日语、泰语、越南语等，突显了其通用性和全球影响力。
为了促进社区创新和可访问性，我们已在 Hugging Face 和 ModelScope 上公开了 Qwen2 的模型权重，并在 GitHub 上提供了包括示例代码在内的补充材料。这些平台还包含量化、微调和部署的资源，为广泛的应用和研究工作提供了便利。
## 分类
- **主要分类**：计算机科学 > 计算与语言 (cs.CL)
- **次要分类**：人工智能 (cs.AI)
## 备注
- 提交日期：2024年7月15日（v1）
- 修订日期：2024年7月18日（v3）
- 最新版本：2024年9月10日（v4）
- 页面数：25 页，1 张图