| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2017-11-10 13:00 Generative Adversarial Networksを用いた確率的識別モデルから訓練データ生成分布の推定 ○草野光亮・佐久間 淳（筑波大）  IBISML2017-76 |
|
| 抄録 | （和） | 機械学習を利用したサービスにおいて，オフライン環境で予測を行う場合など，モデルを第三者に公開しなければならない場合が存在する．しかし，訓練データやその生成分布が秘密情報である場合，公開されたモデルから訓練データ生成分布が推定される恐れがある． 本稿では，この攻撃を定式化しClassifier-to-Generator攻撃と命名する．加えて，Generative Adversarial Networksを用いた攻撃アルゴリズムを提案する．実験により，第三者が推定対象のラベルのサンプルを知識として持っておらずとも，いくつかの条件下において，訓練データ生成分布を推定でき，推定対象のラベルのサンプルを生成することができることを示した． |
| （英） | Suppose we have a deep classification model $f$ that is trained with private samples that should not be released, but we want to release the model publicly. For example, this situation arises when we want to embed the model into mobile devices that are required to give prediction offline. We show that the training samples are revealed from $f$ (or the underlying sample distribution is estimated) under certain conditions. We call this reverse engineering attack the Classifier-to-Generator (C2G) Attack. For C2G attack, we introduce a novel GAN, PreImageGAN which estimates the conditional data distribution $P(X|Y=y)$ for any $y$ where $X, Y$ are a random variable of sample and prediction respectively. We demonstrate that the adversary can estimate the training data distribution even if the adversary has no samples with victim label samples. |
|
| キーワード | （和） | セキュリティ / プライバシ / モデル公開 / 深層学習 / Generative Adversarial Networks / / / |
| （英） | Security / Privacy / Model Publication / Deep Learning / Generative Adversarial Networks / / / | |
| 文献情報 | 信学技報, vol. 117, no. 293, IBISML2017-76, pp. 301-308, 2017年11月. | |
| 資料番号 | IBISML2017-76 | |
| 発行日 | 2017-11-02 (IBISML) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IBISML2017-76 |
|
| 研究会情報 | |
| 研究会 | IBISML |
| 開催期間 | 2017-11-08 - 2017-11-10 |
| 開催地（和） | 東京大学 |
| 開催地（英） | Univ. of Tokyo |
| テーマ（和） | 情報論的学習理論ワークショップ (IBIS2017) |
| テーマ（英） | Information-Based Induction Science Workshop (IBIS2017) |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2017-11-IBISML |
| 本文の言語 | 日本語 |
| タイトル（和） | Generative Adversarial Networksを用いた確率的識別モデルから訓練データ生成分布の推定 |
| サブタイトル（和） | |
| タイトル（英） | Estimation of Training Data Distribution from Probabilistic Classifier using Generative Adversarial Networks |
| サブタイトル（英） | |
| キーワード(1)（和/英） | セキュリティ / Security |
| キーワード(2)（和/英） | プライバシ / Privacy |
| キーワード(3)（和/英） | モデル公開 / Model Publication |
| キーワード(4)（和/英） | 深層学習 / Deep Learning |
| キーワード(5)（和/英） | Generative Adversarial Networks / Generative Adversarial Networks |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 草野 光亮 / Kosuke Kusano / クサノ コウスケ |
| 第1著者 所属（和/英） | 筑波大学 (略称： 筑波大) University of Tsukuba (略称： Univ. Tsukuba) |
| 第2著者 氏名（和/英/ヨミ） | 佐久間 淳 / Jun Sakuma / サクマ ジュン |
| 第2著者 所属（和/英） | 筑波大学 (略称： 筑波大) University of Tsukuba (略称： Univ. Tsukuba) |
| 講演者 | 第1著者 |
| 発表日時 | 2017-11-10 13:00:00 |
| 発表時間 | 150分 |
| 申込先研究会 | IBISML |
| 資料番号 | IBISML2017-76 |
| 巻番号（vol） | vol.117 |
| 号番号（no） | no.293 |
| ページ範囲 | pp.301-308 |
| ページ数 | 8 |
| 発行日 | 2017-11-02 (IBISML) |
[研究会発表申込システムのトップページに戻る]