| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2026-03-04 15:50 プロンプトインジェクションに対する脆弱性評価環境の提案 ○小川森護・桑名栄二（情報セキュリティ大）  ICSS2025-137 |
|
| 抄録 | （和） | 近年、大規模言語モデル（LLM）の急速な普及に伴い、プロンプトインジェクション（PI）脆弱性が重大なセキュリティリスクとして認識されている。しかし、既存研究の多くは、攻撃の防止または検知のいずれかの防御に焦点を当てた単一的な評価にとどまり、両者を組み合わせた際の有効性は十分に実証されていない。また、評価指標や条件が既存研究間で統一されておらず、防御性能の比較可能性が限定的であるという課題もある。本研究ではこれらの課題を解決するため、防止と検知を統合した評価環境である「統合防御環境（Integrated Defense Environment）」を提案する。本環境を用い、無防御、単一防御、および提案する統合防御の各シナリオで、攻撃成功率、偽陽性率、偽陰性率の評価指標を定めて測定を行い、統合防御が単一防御に比べて堅牢性と信頼性の観点で優れていることを実証的に評価し、再現性のある脆弱性評価基盤の確立を行う。 |
| （英） | In recent years, with the rapid proliferation of large language models (LLMs), prompt injection (PI) vulnerabilities have been increasingly recognized as a critical security risk. However, much of the existing research has focused on singular evaluations that emphasize either attack prevention or attack detection, and the effectiveness of combining these two defensive approaches has not been sufficiently demonstrated. In addition, evaluation metrics and experimental conditions are not standardized across prior studies, resulting in limited comparability of defensive performance. To address these challenges, this study proposes an Integrated Defense Environment, an evaluation framework that unifies prevention and detection mechanisms. Using this environment, we conduct systematic measurements under three scenarios: no defense, single defense, and the proposed integrated defense by defining evaluation metrics such as attack success rate, false positive rate, and false negative rate. Through empirical evaluation, we demonstrate that the integrated defense outperforms single-defense approaches in terms of robustness and reliability, and we establish a reproducible vulnerability assessment framework for prompt injection attacks. | |
| キーワード | （和） | プロンプトインジェクション / 大規模言語モデル / セキュリティ / 脆弱性評価 / LLM Guard / Guardrails AI / / |
| （英） | Prompt Injection / Large Language Models (LLM) / Security / Vulnerability Assessment / LLM Guard / Guardrails AI / / | |
| 文献情報 | 信学技報, vol. 125, no. 381, ICSS2025-137, pp. 386-393, 2026年3月. | |
| 資料番号 | ICSS2025-137 | |
| 発行日 | 2026-02-24 (ICSS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | ICSS2025-137 |
|
| 研究会情報 | |
| 研究会 | ICSS IPSJ-SPT |
| 開催期間 | 2026-03-03 - 2026-03-04 |
| 開催地（和） | 沖縄県立美術館・博物館 |
| 開催地（英） | Okinawa Prefectural Museum & Art Museum |
| テーマ（和） | セキュリティ，トラスト，一般 |
| テーマ（英） | Security, Trust, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | ICSS |
| 会議コード | 2026-03-ICSS-SPT |
| 本文の言語 | 日本語 |
| タイトル（和） | プロンプトインジェクションに対する脆弱性評価環境の提案 |
| サブタイトル（和） | |
| タイトル（英） | Proposal of a vulnerability assessment environment for prompt injection |
| サブタイトル（英） | |
| キーワード(1)（和/英） | プロンプトインジェクション / Prompt Injection |
| キーワード(2)（和/英） | 大規模言語モデル / Large Language Models (LLM) |
| キーワード(3)（和/英） | セキュリティ / Security |
| キーワード(4)（和/英） | 脆弱性評価 / Vulnerability Assessment |
| キーワード(5)（和/英） | LLM Guard / LLM Guard |
| キーワード(6)（和/英） | Guardrails AI / Guardrails AI |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 小川 森護 / Shingo Ogawa / オガワ シンゴ |
| 第1著者 所属（和/英） | 情報セキュリティ大学院大学 (略称： 情報セキュリティ大) Institute of Information security (略称： IISEC) |
| 第2著者 氏名（和/英/ヨミ） | 桑名 栄二 / Eiji Kuwana / クワナ エイジ |
| 第2著者 所属（和/英） | 情報セキュリティ大学院大学 (略称： 情報セキュリティ大) Institute of Information security (略称： IISEC) |
| 講演者 | 第1著者 |
| 発表日時 | 2026-03-04 15:50:00 |
| 発表時間 | 20分 |
| 申込先研究会 | ICSS |
| 資料番号 | ICSS2025-137 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.381 |
| ページ範囲 | pp.386-393 |
| ページ数 | 8 |
| 発行日 | 2026-02-24 (ICSS) |
[研究会発表申込システムのトップページに戻る]