| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2015-11-26 15:00 ［ポスター講演］自己情報コントロール設定における線形分類学習の理論的脆弱性評価 ○小林星平（筑波大）・奥村翔太・竹内一郎（名工大）・佐久間 淳（筑波大）  IBISML2015-64 |
|
| 抄録 | （和） | データ提供者自身によるプライバシコントロールのために, データ提供者が提供した後の自身のデータにアクセス・操作できることは機械学習においても重要である. このような機械学習における自己情報コントロール設定では, アカウントの乗っ取りやサクラユーザの追加によって訓練データを直接操作する, 予測性能の劣化を目的とした攻撃への対処が必要となる. 本研究では, 機械学習で基本的かつ広く用いられる線形分類問題における自己情報コントロールと, それに対する攻撃について議論する. 本稿では, 訓練データの操作が予測結果をどれだけ変化させるかを脆弱性と定義し, データの追加・変更・削除に対する感度分析を用いて測る. 我々の解析の結果, 操作されるデータ数 $m$, 訓練データ数 $n$ とすると, 操作によって起こる予測結果の変化の期待値は $O(m/n)$ に比例することが分かった. このことから, 線形分類問題では, 訓練データ数が十分多ければ, どれだけ強力な攻撃者でも操作するデータ数を増やすことでしか予測性能劣化が行えないことが示される. また, 実データを用いた経験的な脆弱性評価により, 理論的な評価の正当性を検証する. |
| （英） | Self-information controllable learning is machine learning algorithms that allow data providers to control their data even after contributing their data to the learner. This setting provides proactive privacy protection for data providers. Meanwhile, if this system is misused, the training data can be corrupted by user account hijacking or injection of poisonous data by shilling users. This might degrade prediction accuracy of machine learning. In this manuscript, we formulate the attack against self-information controllable linear classification problem. We define the vulnerability of the learning algorithm as possible changes in prediction caused by data modification. The vulnerability can be theoretically evaluated by quick sensitivity analysis, which evaluates the changes in the model caused by addition, removal, and modification of training examples. Our analysis revealed that the expected change of prediction is proportional to $O(m/n)$, where $m$ is the number of modified data and $n$ is the number of the training data. The result demonstrates that, given a large number of training data, the adversary can degrade the classification accuracy only by increasing the total number of the data to be modified. Also, we empirically confirmed the theoretical result with a real dataset. | |
| キーワード | （和） | 自己情報コントロール / 線形分類 / 脆弱性評価 / / / / / |
| （英） | Self-Information controllable / linear classification / vulnerability evaluation / / / / / | |
| 文献情報 | 信学技報, vol. 115, no. 323, IBISML2015-64, pp. 83-90, 2015年11月. | |
| 資料番号 | IBISML2015-64 | |
| 発行日 | 2015-11-19 (IBISML) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IBISML2015-64 |
|
| 研究会情報 | |
| 研究会 | IBISML |
| 開催期間 | 2015-11-25 - 2015-11-27 |
| 開催地（和） | つくば国際会議場 |
| 開催地（英） | Epochal Tsukuba |
| テーマ（和） | 情報論的学習理論ワークショップ(IBIS2015) |
| テーマ（英） | Information-Based Induction Science Workshop (IBIS2015) |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2015-11-IBISML |
| 本文の言語 | 日本語 |
| タイトル（和） | 自己情報コントロール設定における線形分類学習の理論的脆弱性評価 |
| サブタイトル（和） | |
| タイトル（英） | Theoretical Vulnerability Evaluation on Linear Classifier under Self-Information Controllable Settings |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 自己情報コントロール / Self-Information controllable |
| キーワード(2)（和/英） | 線形分類 / linear classification |
| キーワード(3)（和/英） | 脆弱性評価 / vulnerability evaluation |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 小林 星平 / Shohei Kobayashi / コバヤシ ショウヘイ |
| 第1著者 所属（和/英） | 筑波大学 (略称： 筑波大) University of Tsukuba (略称： Univ. of Tsukuba) |
| 第2著者 氏名（和/英/ヨミ） | 奥村 翔太 / Shota Okumura / タケウチ イチロウ |
| 第2著者 所属（和/英） | 名古屋工業大学 (略称： 名工大) Nagoya Institute of Technology (略称： nitech) |
| 第3著者 氏名（和/英/ヨミ） | 竹内 一郎 / Ichiro Takeuchi / タケウチ イチロウ |
| 第3著者 所属（和/英） | 名古屋工業大学 (略称： 名工大) Nagoya Institute of Technology (略称： nitech) |
| 第4著者 氏名（和/英/ヨミ） | 佐久間 淳 / Jun Sakuma / サクマ ジュン |
| 第4著者 所属（和/英） | 筑波大学 (略称： 筑波大) University of Tsukuba (略称： Univ. of Tsukuba) |
| 講演者 | 第1著者 |
| 発表日時 | 2015-11-26 15:00:00 |
| 発表時間 | 180分 |
| 申込先研究会 | IBISML |
| 資料番号 | IBISML2015-64 |
| 巻番号（vol） | vol.115 |
| 号番号（no） | no.323 |
| ページ範囲 | pp.83-90 |
| ページ数 | 8 |
| 発行日 | 2015-11-19 (IBISML) |
[研究会発表申込システムのトップページに戻る]