| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-07-25 14:00 CNNモデルを対象とした転移学習モデルにおける訓練データセットのプライバシー保護 ○勝家拓巳・岡野浩三・小形真平（信州大）・中島 震（NII）  SS2024-1 KBSE2024-7 |
|
| 抄録 | （和） | 機械学習の手法の1つである転移学習は，訓練済みモデルの知識を利用することで，少量の訓練データでも高精度な機械学習モデルが作成できる技術として注目を集めている．しかし，機械学習モデルは，敵対者が攻撃することで訓練データを抽出できてしまう問題がある．そこで，プライバシー維持機械学習の方法としてDP-SGDが開発された．本報告では，DP-SGDとSGDのどちらかまたは両方を用いた4ケースの転移学習モデルに対し，メンバーシップ推論攻撃を行い，訓練データが保護されているかどうか確認する．その結果から，ソースモデルの訓練データのプライバシーを保護し転移学習した場合，転移学習はソースモデルの訓練データのプライバシー保護を弱めないが，ターゲットモデルの訓練データのプライバシーは保護されないと分かった．そのため，転移学習時にはDP-SGDを用いる必要があると分かった．また，効率よく訓練データのプライバシーが保護された転移学習モデルを作成するには，転移学習時のみにDP-SGDを用いればよいと分かった． |
| （英） | Transfer learning, one of the machine learning methods, has attracted attention as a technique that can create highly accurate machine learning models with a small amount of training data by using the knowledge of trained models. However, machine learning models have a problem that an attacker can extract the training data. Therefore, DP-SGD was developed as a privacy-preserving machine learning method. In this report, we perform membership inference attacks on four cases of transfer learning models using either or both DP-SGD and SGD to check whether the training data is protected. From the results, we found that when the privacy of the training data of the source model is protected and the transfer learning is performed, the transfer learning does not weaken the privacy protection of the training data of the source model, but the privacy of the training data of the target model is not protected. Therefore, it is necessary to use DP-SGD for transfer learning. In order to efficiently create a transfer learning model with privacy-preserving training data, we found that DP-SGD should be used only for transfer learning. | |
| キーワード | （和） | 機械学習 / 転移学習 / 差分プライバシー / DP-SGD / メンバーシップ推論攻撃 / / / |
| （英） | Machine learning / Transfer learning / Differential privacy / DP-SGD / Membership Inference Attack / / / | |
| 文献情報 | 信学技報, vol. 124, no. 133, SS2024-1, pp. 1-6, 2024年7月. | |
| 資料番号 | SS2024-1 | |
| 発行日 | 2024-07-18 (SS, KBSE) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | SS2024-1 KBSE2024-7 |
|
| 研究会情報 | |
| 研究会 | KBSE SS IPSJ-SE |
| 開催期間 | 2024-07-25 - 2024-07-27 |
| 開催地（和） | 小樽経済センター 7F大ホール |
| 開催地（英） | |
| テーマ（和） | ソフトウェア工学全般／知能ソフトウェア工学全般／ソフトウェアサイエンス全般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SS |
| 会議コード | 2024-07-KBSE-SS-SE |
| 本文の言語 | 日本語 |
| タイトル（和） | CNNモデルを対象とした転移学習モデルにおける訓練データセットのプライバシー保護 |
| サブタイトル（和） | |
| タイトル（英） | Privacy protection of training datasets in CNN transfer learning models |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 機械学習 / Machine learning |
| キーワード(2)（和/英） | 転移学習 / Transfer learning |
| キーワード(3)（和/英） | 差分プライバシー / Differential privacy |
| キーワード(4)（和/英） | DP-SGD / DP-SGD |
| キーワード(5)（和/英） | メンバーシップ推論攻撃 / Membership Inference Attack |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 勝家 拓巳 / Takumi Katsuie / カツイエ タクミ |
| 第1著者 所属（和/英） | 信州大学 (略称： 信州大) Shinshu University (略称： Shinshu Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 岡野 浩三 / Kozo Okano / オカノ コウゾウ |
| 第2著者 所属（和/英） | 信州大学 (略称： 信州大) Shinshu University (略称： Shinshu Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 小形 真平 / Shinpei Ogata / オガタ シンペイ |
| 第3著者 所属（和/英） | 信州大学 (略称： 信州大) Shinshu University (略称： Shinshu Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 中島 震 / Shin Nakajima / ナカジマ シン |
| 第4著者 所属（和/英） | 国立情報学研究所 (略称： NII) National Institute of Informatics (略称： NII) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-07-25 14:00:00 |
| 発表時間 | 30分 |
| 申込先研究会 | SS |
| 資料番号 | SS2024-1, KBSE2024-7 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.133(SS), no.134(KBSE) |
| ページ範囲 | pp.1-6 |
| ページ数 | 6 |
| 発行日 | 2024-07-18 (SS, KBSE) |
[研究会発表申込システムのトップページに戻る]