SafeDecoding: Defending against Jailbreak Attacks via Safety-Aware Decoding

基本信息

• 标题：SafeDecoding: Defending against Jailbreak Attacks via Safety-Aware Decoding
• 作者：Zhangchen Xu, Fengqing Jiang, Luyao Niu, Jinyuan Jia, Bill Yuchen Lin, Radha Poovendran
• 提交日期：2024 年 2 月 14 日（v1）；最后修订 2024 年 7 月 25 日（v4）
• 发表信息：To appear in ACL 2024
• arXiv 编号：arXiv:2402.08983 [cs.CR]
• DOI：https://doi.org/10.48550/arXiv.2402.08983

主题分类

• 主分类：Cryptography and Security (cs.CR)
• 交叉分类：Artificial Intelligence (cs.AI)；Computation and Language (cs.CL)

摘要

随着大语言模型（LLM）日益融入代码生成、聊天机器人等实际应用，研究者投入了大量精力使 LLM 的行为与人类价值观（包括安全性）对齐。然而，旨在诱导 LLM 产生非预期、不安全行为的越狱攻击（jailbreak attacks）仍是 LLM 安全面临的主要威胁之一。

本文提出 SafeDecoding——一种面向 LLM 的安全感知解码策略，用于让模型针对用户查询生成既有帮助又无害的回复，从而抵御越狱攻击。其核心洞察在于：即使代表有害内容的 token 概率超过代表无害回复的 token 概率，但在按概率降序排列后，安全免责声明（safety disclaimers）仍会出现在靠前的 token 之中。基于此，SafeDecoding 通过识别安全免责声明并放大其 token 概率，同时削弱与越狱攻击目标一致的 token 序列的概率，来缓解越狱攻击。

作者在 5 个 LLM 上使用 6 种最先进的越狱攻击方法和 4 个基准数据集进行了大量实验。结果表明，SafeDecoding 能显著降低攻击成功率与越狱攻击的危害性，同时不损害模型对良性用户查询回复的有用性，并且优于 6 种防御方法。

关键信息速览