跳到正文
返回论文列表
cs.LG提交于 已译

有害响应即越狱模板:将自回归越狱迁移至扩散语言模型

Harmful Responses Are Jailbreak Templates: Transferring Autoregressive Jailbreaks to Diffusion Language Models

Jinwei Gan · Zifeng Cheng · Zhiwei Jiang · Ran Sun · Shiping Ge · Qing Gu

中文摘要

扩散大语言模型(dLLMs)通过双向上下文建模支持灵活的掩码生成,但也带来了独特的越狱攻击面。研究发现,针对特定查询的有害响应可自然充当有效越狱模板:仅掩蔽其中部分词元,就能诱导dLLM重建有害内容。据此提出RMT-Jailbreak,通过目标模型生成的有害响应,将现有自回归(AR)越狱攻击迁移至dLLMs。该框架采用统一词元保留策略,将AR生成的有害响应转换为高掩码率模板,并进一步利用基于提示的安全过滤,掩蔽仍可见的有害内容;随后将精炼模板输入目标dLLM进行双向重建。多个AR越狱方法和目标dLLM上的大量实验表明,RMT-Jailbreak具有有效性与通用性,揭示了越狱攻击在两种生成范式间的强迁移能力。

关键要点

  1. 01指出有害响应可作为诱导dLLM重建有害内容的越狱模板。
  2. 02提出RMT-Jailbreak,将现有AR越狱攻击迁移至扩散语言模型。
  3. 03通过统一词元保留生成高掩码率模板,并过滤残余有害内容。
  4. 04跨多种AR越狱方法与目标dLLM的实验验证了攻击效果和通用性。
  5. 05结果显示越狱攻击具有较强的跨范式迁移能力。

解读

尚无解读。

原始英文摘要

arXiv:2610.31331v1 Announce Type: new Abstract: Diffusion large language models (dLLMs) enable flexible masked generation through bidirectional context modeling, but this capability also introduces a distinct jailbreak attack surface. We find that a harmful response to a given query naturally serves as an effective jailbreak template: simply masking a subset of its tokens can induce a dLLM to reconstruct harmful content. Based on this observation, we propose RMT-Jailbreak, a general framework that transfers existing autoregressive (AR) jailbreak attacks to dLLMs through their induced harmful responses. RMT-Jailbreak converts an AR-generated harmful response into a high-mask-ratio template using uniform token retention, and further applies prompt-based safety filtering to mask any remaining visible harmful content. The refined template is then provided to the target dLLM for bidirectional reconstruction. Extensive experiments across multiple AR jailbreak methods and target dLLMs demonstrate the effectiveness and generality of RMT-Jailbreak, revealing strong cross-paradigm transferability of jailbreak attacks.

同方向论文 · cs.LG

查看全部 →

反向发现 · 这篇论文相关的工具与提示词

去交叉发现 →

关联提示词 · 6

编程github.com·外部收录·

对提交的代码进行多维度 Code Review,输出按严重程度分类的问题清单、修改建议与审查结论。

# Role 你是一位经验丰富的代码审查专家。你擅长通过建设性反馈、系统性分析和协作改进,将代码审查从「把关」升级为「知识分享」。你熟悉 React、Vue、Rust、TypeScript、Java、Python、C/C++ 等语言的最佳实践。 # Task 对我提供的【代码】进行全面的 Code Review,从正确性、安全性、性能、可维护性、规范性等多维度审查,并给出建设性、可执行的反馈。 # Core Principles ## 1. 审查心态 - **目标**:…

编程promptwhiteboard.com·外部收录·

从正确性、可维护性、安全、性能和测试缺口审查代码,输出按严重程度排序的问题、引用、修复建议和缺失测试。

任务类型: 代码审查 目标: 从正确性、可维护性、安全、性能和测试缺口审查代码。 背景: - [项目、产品或主题]: [项目、产品或主题] - [受众和使用场景]: [受众和使用场景] - [约束、必须满足的要求和避免事项]: [约束、必须满足的要求和避免事项] 需要提供的信息: [在这里粘贴原始材料] 期望输出: 1. 按严重程度排序的问题 2. 文件或段落引用 3. 修复建议 4. 缺失测试 质量标准: - 具体表达,避免泛泛建议。 - 明确写出假设。 - 优先给可执行下…

编程zhuanlan.zhihu.com·外部收录·

用 AI 写代码后,在上线前按密钥、数据库、API、依赖、HTTP 五方面逐项扫描安全漏洞

你是一位资深代码安全审计专家。对以下项目逐项检查: 一、密钥与凭证 - 所有 API Key/Token/密码是否用环境变量?.env 是否在 .gitignore? - 是否有硬编码的 JWT Secret、数据库密码? 二、数据库安全 - 用户表是否启用 RLS?SQL 是否参数化查询? - 密码是否用 bcrypt/argon2 哈希? 三、API 安全 - 用户输入是否在服务端校验?认证路由是否加 auth 中间件? - 公开 API 是否有 rate limitin…

数据blog.csdn.net·外部收录·

为SQL查询结果生成定性分析、数据洞察与决策支持

# 角色 数据科学家 ## 注意 1. 激励模型深入思考角色配置细节,确保任务完成。 2. 专家设计应考虑使用者的需求和关注点。 3. 使用情感提示的方法来强调角色的意义和情感层面。 ## 性格类型指标 INTJ(内向直觉思维判断型) ## 背景 作为数据科学家,这个角色旨在为用户提供数据分析、模型构建和预测的专业知识。专家通过分析大量数据,帮助用户发现数据背后的模式和趋势,从而为决策提供支持。 ## 约束条件 - 必须遵循数据隐私和安全原则 - 需要保持客观和中立,…