| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2026-03-04 13:25 エッジデバイスにおける視覚言語モデルに対する敵対的入力に関する評価 ○熊谷 瞭・竹本 修・野崎佑典・吉川雅弥（名城大）  VLD2025-77 HWS2025-73 ICD2025-88 |
|
| 抄録 | （和） | 深層学習を利用した人工知能技術のうち，視覚言語モデル（vision-language models, VLM）は，視覚情報と言語情報を統合して処理するマルチモーダルな生成モデルである．プロンプトインジェクションはLLMやVLMに対して悪意のある指示を与えることで不正な出力を誘導する攻撃であり，開発者が設定した安全機構や指示を無視させるものである．このうち，特にVLMの視覚入力に対するものがビジュアルプロンプトインジェクション（visual prompt injection, VPI）であり，多くのモデルがこれに対し脆弱であることが先行研究により明らかにされている．しかし，いくつかのVPI手法は大規模モデルの高い性能を悪用することで攻撃を実行するものであり，エッジデバイス上で動作可能な軽量・小規模モデルに対する評価は不十分である．本研究では，エッジデバイス上に実装したVLMに対し物理的にVPIを行うことにより，この脅威を評価する．実験により，エッジデバイス上の小規模モデルはVPIに対し大規模モデルとは異なる振る舞いをすることを明らかにした． |
| （英） | Among artificial intelligence technologies that utilize deep learning, visual language models (VLMs) are multimodal generative models that integrate and process visual and linguistic information. Prompt injection is an attack that causes an LLM or VLM to produce incorrect output by issuing malicious instructions, causing the model to ignore safety mechanisms and instructions set by the developer. Visual prompt injection (VPI) is a particular attack targeting the visual input of a VLM, and previous research has shown that many models are vulnerable to this. However, some VPI methods exploit the high performance of large-scale models to carry out attacks, and evaluation of lightweight, small-scale models that can run on edge devices has been insufficient. In this study, we evaluate this threat by physically performing VPI on a VLM implemented on an edge device. Experimental results demonstrated that small-scale models on edge devices behave differently in response to VPI than large-scale models. | |
| キーワード | （和） | 深層学習 / エッジAI / 視覚言語モデル / プロンプトインジェクション / M5Stack / / / |
| （英） | deep learning / edge AI / vision-language models / prompt injection / M5Stack / / / | |
| 文献情報 | 信学技報, vol. 125, no. 383, HWS2025-73, pp. 7-12, 2026年3月. | |
| 資料番号 | HWS2025-73 | |
| 発行日 | 2026-02-25 (VLD, HWS, ICD) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | VLD2025-77 HWS2025-73 ICD2025-88 |
|
| 研究会情報 | |
| 研究会 | ICD HWS VLD |
| 開催期間 | 2026-03-04 - 2026-03-07 |
| 開催地（和） | みんなの貸会議室 那覇旭町店404会議室 |
| 開催地（英） | |
| テーマ（和） | システムオンシリコンを支える設計技術, ハードウェアセキュリティ, 一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | HWS |
| 会議コード | 2026-03-ICD-HWS-VLD |
| 本文の言語 | 日本語 |
| タイトル（和） | エッジデバイスにおける視覚言語モデルに対する敵対的入力に関する評価 |
| サブタイトル（和） | |
| タイトル（英） | Security Evaluation of Adversarial Inputs for Vision-Language Models on Edge Devices |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 深層学習 / deep learning |
| キーワード(2)（和/英） | エッジAI / edge AI |
| キーワード(3)（和/英） | 視覚言語モデル / vision-language models |
| キーワード(4)（和/英） | プロンプトインジェクション / prompt injection |
| キーワード(5)（和/英） | M5Stack / M5Stack |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 熊谷 瞭 / Ryo Kumagai / クマガイ リョウ |
| 第1著者 所属（和/英） | 名城大学 (略称： 名城大) Meijo University (略称： Meijo Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 竹本 修 / Shu Takemoto / タケモト シュウ |
| 第2著者 所属（和/英） | 名城大学 (略称： 名城大) Meijo University (略称： Meijo Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 野崎 佑典 / Yusuke Nozaki / ノザキ ユウスケ |
| 第3著者 所属（和/英） | 名城大学 (略称： 名城大) Meijo University (略称： Meijo Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 吉川 雅弥 / Masaya Yoshikawa / ヨシカワ マサヤ |
| 第4著者 所属（和/英） | 名城大学 (略称： 名城大) Meijo University (略称： Meijo Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2026-03-04 13:25:00 |
| 発表時間 | 25分 |
| 申込先研究会 | HWS |
| 資料番号 | VLD2025-77, HWS2025-73, ICD2025-88 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.382(VLD), no.383(HWS), no.384(ICD) |
| ページ範囲 | pp.7-12 |
| ページ数 | 6 |
| 発行日 | 2026-02-25 (VLD, HWS, ICD) |
[研究会発表申込システムのトップページに戻る]