利用大语言模型增强自动化代码漏洞修复

基本信息

• 标题：Enhanced Automated Code Vulnerability Repair using Large Language Models
• 作者：David de-Fitero-Dominguez、Eva Garcia-Lopez、Antonio Garcia-Cabot、Jose-Javier Martinez-Herraiz
• arXiv 编号：arXiv:2401.03741（v2，2024 年 10 月 3 日修订；v1 提交于 2024 年 1 月 8 日）
• 主题分类：软件工程（cs.SE）；计算与语言（cs.CL）
• 期刊信息：Engineering Applications of Artificial Intelligence，第 138 卷 Part A，2024 年 12 月，文章编号 109291
• DOI：10.1016/j.engappai.2024.109291

摘要

该研究针对代码漏洞的自动化修复这一复杂挑战展开，而自动化修复对于在日益技术驱动的世界中提升数字安全至关重要。研究提出了一种新颖且高效的代码修改表示格式，采用 Code Llama 与 Mistral 等先进大语言模型（LLMs），并在包含 C 语言代码漏洞的数据集上对这些模型进行微调，显著提升了自动化代码修复技术的准确性与适应性。

关键发现是：与 VulRepair 等以往方法相比，所提模型的修复准确率更高，体现了其实际效用与效率。研究还对当前评估指标（如 perfect predictions）进行了批判性评估，指出这些指标在反映自动化修复模型真实能力方面的局限。随后，研究强调应使用不含训练样本的测试数据集，凸显数据集完整性对提升 LLM 代码修复效果的必要性。

该工作的意义在于其对数字安全的贡献：为自动化代码漏洞修复树立新标准，并为网络安全与人工智能领域的未来进展铺平道路。研究不仅凸显了 LLM 在提升代码安全方面的潜力，也促进这些关键领域的进一步探索与研究。

关键词

大语言模型（LLMs）、自动化代码漏洞修复、Code Llama、Mistral、C 语言代码漏洞、VulRepair、评估指标、数据集完整性、网络安全