| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2026-07-22 17:55 転移学習モデルへのモデル反転攻撃に対する差分プライバシーの防御効果に関する評価実験 ○青木滉士郎・岡野浩三・小形真平（信州大）・中島 震（NII）  SS2026-15 KBSE2026-15 |
|
| 抄録 | （和） | 転移学習は機械学習の手法の一つであり，事前に訓練された学習モデルの内部知識を目的のタスクへ転用することで，少量のデータで高精度な機械学習モデルを構築することを可能にする．以前より機械学習モデルには，訓練に用いた機密データがプライバシー攻撃によって漏洩するリスクが存在しており，このリスクへの対策として，差分プライバシーに基づく学習アルゴリズムであるDP-SGDが用いられてきた．一方，転移学習が主流となっている現状において，DP-SGDが転移学習モデルに対するプライバシー保護手法として有効かどうかは，いまだ十分に明らかになっていない．本報告では，SGDおよびDP-SGDを用いて転移学習モデルを複数作成し，各モデルに対するGMIとKEDMIの2種類のモデル反転攻撃を通して，モデル反転攻撃に対してDP-SGDが有効であるかどうかを調査した．調査の結果，転移学習時にDP-SGDを適用すると，攻撃精度は低下したが，モデルの識別精度が著しく低下し，モデルとしての機能が失われた．事前学習時にDP-SGDを適用したケースにおいても，追加実験の結果からDP-SGDによる効果は確認できなかった．以上のことから，DP-SGDは，モデル反転攻撃から訓練データを保護するためのモ デル作成手法として有効ではないと考えられる． |
| （英） | Transfer learning is a machine learning technique that allows for the construction of highly accurate machine learning models with small amounts of data by repurposing the internal knowledge of a pre-trained learning model for a target task. Machine learning models have long been susceptible to the risk of sensitive data used for training being leaked due to privacy attacks. To mitigate this risk, DP-SGD, a learning algorithm based on differential privacy, has been used. On the other hand, given that transfer learning is currently the mainstream approach, it remains unclear whether DP-SGD is an effective privacy protection method for transfer learning models. This report investigates the effectiveness of DP-SGD against model inversion attacks by creating multiple transfer learning models using SGD and DP-SGD and then applying two types of model inversion attacks, GMI and KEDMI, to each model. The results showed that applying DP-SGD during transfer learning reduced attack accuracy, but also significantly reduced the model’s discrimination accuracy, resulting in a loss of model functionality. Even in cases where DP-SGD was applied during pre-training, additional experiments did not confirm any effect of DP-SGD. Therefore, it is considered that DP-SGD is not an effective model creation method for protecting training data from model inversion attacks. |
|
| キーワード | （和） | 機械学習 / 転移学習 / SGD / DP-SGD / モデル反転攻撃 / / / |
| （英） | Machine Learning / Transfer Learning / SGD / DP-SGD / Model Inversion Attack / / / | |
| 文献情報 | 信学技報, vol. 126, no. 125, SS2026-15, pp. 85-90, 2026年7月. | |
| 資料番号 | SS2026-15 | |
| 発行日 | 2026-07-15 (SS, KBSE) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | SS2026-15 KBSE2026-15 |
|
| 研究会情報 | |
| 研究会 | SS KBSE IPSJ-SE |
| 開催期間 | 2026-07-22 - 2026-07-24 |
| 開催地（和） | 札幌市教育文化会館 |
| 開催地（英） | |
| テーマ（和） | ソフトウェア工学全般／知能ソフトウェア工学全般／ソフトウェアサイエンス全般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SS |
| 会議コード | 2026-07-SS-KBSE-SE |
| 本文の言語 | 日本語 |
| タイトル（和） | 転移学習モデルへのモデル反転攻撃に対する差分プライバシーの防御効果に関する評価実験 |
| サブタイトル（和） | |
| タイトル（英） | Evaluation experiment on the defensive effect of Differential Privacy against Model Inversion Attacks on transfer learning models |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 機械学習 / Machine Learning |
| キーワード(2)（和/英） | 転移学習 / Transfer Learning |
| キーワード(3)（和/英） | SGD / SGD |
| キーワード(4)（和/英） | DP-SGD / DP-SGD |
| キーワード(5)（和/英） | モデル反転攻撃 / Model Inversion Attack |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 青木 滉士郎 / Aoki Koshiro / アオキ コウシロウ |
| 第1著者 所属（和/英） | 信州大学 (略称： 信州大) Shinshu University (略称： Shinshu Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 岡野 浩三 / Kozo Okano / オカノ コウゾウ |
| 第2著者 所属（和/英） | 信州大学 (略称： 信州大) Shinshu University (略称： Shinshu Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 小形 真平 / Shinpei Ogata / オガタ シンペイ |
| 第3著者 所属（和/英） | 信州大学 (略称： 信州大) Shinshu University (略称： Shinshu Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 中島 震 / Shin Nakajima / ナカジマ シン |
| 第4著者 所属（和/英） | 国立情報学研究所 (略称： NII) National Institute of Informatics (略称： NII) |
| 講演者 | 第1著者 |
| 発表日時 | 2026-07-22 17:55:00 |
| 発表時間 | 20分 |
| 申込先研究会 | SS |
| 資料番号 | SS2026-15, KBSE2026-15 |
| 巻番号（vol） | vol.126 |
| 号番号（no） | no.125(SS), no.126(KBSE) |
| ページ範囲 | pp.85-90 |
| ページ数 | 6 |
| 発行日 | 2026-07-15 (SS, KBSE) |
[研究会発表申込システムのトップページに戻る]