| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-11-29 15:55 Model Extraction Attackに対するDNNモデルの頑健性について ○平本麗弥・岩瀬 俊・前田英作（東京電機大）  PRMU2024-16 |
|
| 抄録 | （和） | 攻撃対象となる標的Deep Neural Network（DNN）に対しその入出力関係についてのデータを収集し，それを用いて新たなDNNモデルを学習することにより，標的モデルの性能を模擬したクローンモデルを作成することが可能であることが知られている． これは，Model Extraction Attack(MEA)と呼ばれ，Machine Learning as a Surviceにおける脅威の一つとされているとともに，技術的にはDNNのknowledge distillationとも深い関係がある．MEAの改良手法やMEAに対する防御手法に関する多くの先行研究があるものの，DNNのもつ様々な特性とMEAに対する脆弱性，頑健性との関係については十分な知見が得られていない．そこで本論文では，MEAに対する頑健性を決める要因として,攻撃対象モデルが実現している入出力関係の複雑さ,タスクの難易度,攻撃対象モデルが用いた学習データと攻撃に利用するデータとの分布間距離などに着目し，こうしたDNNモデルの特性とMEAによって生成されるクローンモデルの性能との関係について検討を行った． |
| （英） | It is known that it is possible to create a cloned model that simulates the performance of the target Deep Neural Network (DNN) model by collecting data on its input-output relationships and training a new DNN model using that data. This is called Model Extraction Attack (MEA) and is considered one of the threats in Machine Learning as a Service, as well as being closely related to knowledge distillation of DNNs in technology. Although there are many previous studies on methods for improving MEA and defending against MEA, not enough is known about the relationship between various properties of DNNs and their vulnerability and robustness against MEA. In this paper, we focus on the factors that determine robustness to MEA, such as the complexity of the input-output relationship realized by the attack target model, the difficulty of the task, and the distance between the training data used by the attack target model and the data used in the attack. The relationship between these DNN model characteristics and the performance of the cloned model generated by MEA was examined. | |
| キーワード | （和） | Model Extraction Attack / 知識蒸留 / / / / / / |
| （英） | Model Extraction Attack / knowledge distillation / / / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 281, PRMU2024-16, pp. 44-49, 2024年11月. | |
| 資料番号 | PRMU2024-16 | |
| 発行日 | 2024-11-22 (PRMU) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | PRMU2024-16 |
|
| 研究会情報 | |
| 研究会 | PRMU IPSJ-CVIM IPSJ-CGVI IPSJ-DCC |
| 開催期間 | 2024-11-29 - 2024-11-30 |
| 開催地（和） | 福井工業大学 福井キャンパス |
| 開催地（英） | |
| テーマ（和） | 生成・創造のためのCV/CG/DCC/PR技術 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | PRMU |
| 会議コード | 2024-11-PRMU-CVIM-CGVI-DCC |
| 本文の言語 | 日本語 |
| タイトル（和） | Model Extraction Attackに対するDNNモデルの頑健性について |
| サブタイトル（和） | |
| タイトル（英） | Robustness of DNN Models against Model Extraction Attacks |
| サブタイトル（英） | |
| キーワード(1)（和/英） | Model Extraction Attack / Model Extraction Attack |
| キーワード(2)（和/英） | 知識蒸留 / knowledge distillation |
| キーワード(3)（和/英） | / |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 平本 麗弥 / Reiya Hiramoto / ヒラモト レイヤ |
| 第1著者 所属（和/英） | 東京電機大学 (略称： 東京電機大) Tokyo Denki University (略称： TDU) |
| 第2著者 氏名（和/英/ヨミ） | 岩瀬 俊 / Shun Iwase / イワセ シュン |
| 第2著者 所属（和/英） | 東京電機大学 (略称： 東京電機大) Tokyo Denki University (略称： TDU) |
| 第3著者 氏名（和/英/ヨミ） | 前田 英作 / Eisaku Maeda / マエダ エイサク |
| 第3著者 所属（和/英） | 東京電機大学 (略称： 東京電機大) Tokyo Denki University (略称： TDU) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-11-29 15:55:00 |
| 発表時間 | 15分 |
| 申込先研究会 | PRMU |
| 資料番号 | PRMU2024-16 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.281 |
| ページ範囲 | pp.44-49 |
| ページ数 | 6 |
| 発行日 | 2024-11-22 (PRMU) |
[研究会発表申込システムのトップページに戻る]