| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2025-12-22 16:05 拡散言語モデルにおけるジェイルブレイク攻撃に対する脆弱性の発見と緩和 ○山辺翔二郎（科学大）・佐久間 淳（科学大, RIKEN AIP）  IBISML2025-27 |
|
| 抄録 | （和） | 拡散言語モデルは，反復的な逆拡散過程にもとづきトークン列を並列に生成することで，高速な推論と双方向コンテキストの利用を同時に実現する． しかし，この推論機構に基づいて設計されたジェイルブレイク攻撃に対する安全性リスクは十分に理解されていない． 本研究では，有害クエリに対して生成の中間ステップで肯定的なトークンが一度でも出現すると，その後の逆拡散過程が有害応答へと誘導されうるという，拡散言語モデル特有の脆弱性を明らかにする． さらに，攻撃者がこの脆弱性を利用することで，アライメント済みモデルに対しても有害応答を誘発しうることを示す． これらの知見にもとづき，対抗策として拡散言語モデルに特化した新しい安全性アライメント手法を提案する． |
| （英） | Diffusion language models (DLMs) generate tokens in parallel through iterative denoising. However, the safety risks posed by jailbreak attacks that exploit this inference mechanism are not well understood. In this paper, we reveal that DLMs have a critical vulnerability stemming from their iterative denoising process and propose a countermeasure. Specifically, our investigation shows that if an affirmative token for a harmful query appears at an intermediate step, subsequent denoising can be steered toward a harmful response even in aligned models. Building on this analysis, we propose a novel safety alignment method tailored to DLMs. | |
| キーワード | （和） | AIセキュリティ / ジェイルブレイク / 拡散言語モデル / アライメント / / / / |
| （英） | security for AI / jailbreak / diffusion language model / safety alignment / / / / | |
| 文献情報 | 信学技報, vol. 125, no. 308, IBISML2025-27, pp. 37-44, 2025年12月. | |
| 資料番号 | IBISML2025-27 | |
| 発行日 | 2025-12-15 (IBISML) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IBISML2025-27 |
|
| 研究会情報 | |
| 研究会 | IBISML |
| 開催期間 | 2025-12-22 - 2025-12-23 |
| 開催地（和） | 名古屋工業大学 1号館 0113講義室 |
| 開催地（英） | Nagoya Institute of Technology |
| テーマ（和） | 機械学習，一般 |
| テーマ（英） | machine learning, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2025-12-IBISML |
| 本文の言語 | 日本語 |
| タイトル（和） | 拡散言語モデルにおけるジェイルブレイク攻撃に対する脆弱性の発見と緩和 |
| サブタイトル（和） | |
| タイトル（英） | Toward Safer Diffusion Language Models: Discovery and Mitigation of Priming Vulnerability |
| サブタイトル（英） | |
| キーワード(1)（和/英） | AIセキュリティ / security for AI |
| キーワード(2)（和/英） | ジェイルブレイク / jailbreak |
| キーワード(3)（和/英） | 拡散言語モデル / diffusion language model |
| キーワード(4)（和/英） | アライメント / safety alignment |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 山辺 翔二郎 / Shojiro Yamabe / ヤマベ ショウジロウ |
| 第1著者 所属（和/英） | 東京科学大学 (略称： 科学大) Institute of Science Tokyo (略称： Science Tokyo) |
| 第2著者 氏名（和/英/ヨミ） | 佐久間 淳 / Jun Sakuma / サクマ ジュン |
| 第2著者 所属（和/英） | 東京科学大学/RIKEN AIP (略称： 科学大, RIKEN AIP) Institute of Science Tokyo/RIKEN AIP (略称： Science Tokyo, RIKEN AIP) |
| 講演者 | 第1著者 |
| 発表日時 | 2025-12-22 16:05:00 |
| 発表時間 | 20分 |
| 申込先研究会 | IBISML |
| 資料番号 | IBISML2025-27 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.308 |
| ページ範囲 | pp.37-44 |
| ページ数 | 8 |
| 発行日 | 2025-12-15 (IBISML) |
[研究会発表申込システムのトップページに戻る]