| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-11-24 13:30 ［ポスター講演］拡散モデルベースの無条件画像生成器に対するモデル抽出攻撃とその防御法の検討 ○庄子颯人・中村和晃（東京理科大）  EA2024-51 EMM2024-90 |
|
| 抄録 | （和） | 近年，機械学習モデルを標的としたサイバー攻撃の懸念が高まっており，具体的な脅威の一つにModel Extraction Attack (MEA)がある．MEAは，標的モデルの出力を利用してそれと同等の機能を持つクローンモデルを不正に学習する攻撃であり，主に画像認識モデルを対象に研究されてきた．一方で，画像生成モデルを標的としたMEAは，現状ではあまり検討されていない．本稿では，画像生成モデルとして無条件DDIMを取り上げ，それを標的としたMEAの実現性を評価するとともに，本攻撃に対する防御策としてクローンモデルを事後的に検知する手法を提案する． 具体的には，特定の分布外画像（顔画像生成モデルにおける果物画像など）を学習データセットに含めることにより，低確率で分布外画像を出力するような特性を標的モデルに与える．この特性をクローンモデルにも引き継がせ，その有無を以てクローンモデルを検知する． 実験の結果，画像生成モデルを標的としたMEAが十分に実行可能であること，および，提案手法により付与した上記の特性がクローンモデルにも引き継がれることが確認できた． |
| （英） | Recently, the threat of cyber attacks against machine learning models has been increasing, one of whose typical examples is Model Extraction Attack (MEA). MEA is an attack of constructing an illegal clone of a victim model exploiting its outputs. Most existing work focuses on image recognition models as a target of MEA while image generation model attracts less attention. In this paper, we first evaluate the feasibility of MEA against unconditional DDIM, which is a diffusion-based image generation model. Then, we propose a method for detecting clone models as a countermeasure for MEA against unconditional DDIM. Specifically, we add a few out-of-distribution (OOD) images to the victim model's training dataset to make the model occasionally output OOD images. This property is expected to be inherited by clone models and therefore is used as a clue for detecting them. Experimental results show that MEA can also be conducted on image generation models while the proposed method successfully forces the clone models to have the same property as the victim model. | |
| キーワード | （和） | モデル抽出攻撃 / クローンモデル検知 / 画像生成モデル / 拡散モデル / 無条件DDIM / / / |
| （英） | Model Extraction Attack / clone model detection / image generation model / diffusion model / unconditional DDIM / / / | |
| 文献情報 | 信学技報, vol. 124, no. 272, EMM2024-90, pp. 45-50, 2024年11月. | |
| 資料番号 | EMM2024-90 | |
| 発行日 | 2024-11-17 (EA, EMM) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EA2024-51 EMM2024-90 |
|
| 研究会情報 | |
| 研究会 | EA EMM ASJ-H |
| 開催期間 | 2024-11-24 - 2024-11-25 |
| 開催地（和） | ウェルネスハウス SARAI |
| 開催地（英） | SARAI Wellness House |
| テーマ（和） | ＜ビギナーズセッション＞応用／電気音響，コンテンツ処理，情報ハイディング，聴覚，一般 |
| テーマ（英） | [Beginners Session] Engineering/Electro Acoustics, Content Processing, Digital Watermarking, Psychological and Physiological Acoustics, and Related Topics |
| 講演論文情報の詳細 | |
| 申込み研究会 | EMM |
| 会議コード | 2024-11-EA-EMM-H |
| 本文の言語 | 日本語 |
| タイトル（和） | 拡散モデルベースの無条件画像生成器に対するモデル抽出攻撃とその防御法の検討 |
| サブタイトル（和） | |
| タイトル（英） | Model Extraction Attack and Its Defense on Diffusion-Based Unconditional Image Generators |
| サブタイトル（英） | |
| キーワード(1)（和/英） | モデル抽出攻撃 / Model Extraction Attack |
| キーワード(2)（和/英） | クローンモデル検知 / clone model detection |
| キーワード(3)（和/英） | 画像生成モデル / image generation model |
| キーワード(4)（和/英） | 拡散モデル / diffusion model |
| キーワード(5)（和/英） | 無条件DDIM / unconditional DDIM |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 庄子 颯人 / Hayato Shoji / ショウジ ハヤト |
| 第1著者 所属（和/英） | 東京理科大学 (略称： 東京理科大) Tokyo University of Science (略称： TUS) |
| 第2著者 氏名（和/英/ヨミ） | 中村 和晃 / Kazuaki Nakamura / ナカムラ カズアキ |
| 第2著者 所属（和/英） | 東京理科大学 (略称： 東京理科大) Tokyo University of Science (略称： TUS) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-11-24 13:30:00 |
| 発表時間 | 150分 |
| 申込先研究会 | EMM |
| 資料番号 | EA2024-51, EMM2024-90 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.271(EA), no.272(EMM) |
| ページ範囲 | pp.45-50 |
| ページ数 | 6 |
| 発行日 | 2024-11-17 (EA, EMM) |
[研究会発表申込システムのトップページに戻る]