| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2021-02-12 16:30 IoT環境における機械学習のポイズニング攻撃に対して有害データの除去優先度を考慮した防御手法 ○千葉智樹・清 雄一・田原康之・大須賀昭彦（電通大）  AI2020-36 |
|
| 抄録 | （和） | 近年，機械学習は人々の暮らしをさらに豊かにするとされ， 注目を集めている． しかし， それに伴い機械学習を利用したシステムの脆弱性の指摘も増えている． そのような脅威の中に， 機械学習モデルを構築する際に用いる訓練データ内に有害なデータを混入させるポイズニング攻撃というものが存在する． この攻撃は， 機械学習モデルの精度低下や， 攻撃者が意図した予測結果を出力させることを目的としている． そこで， 本研究ではポイズニング攻撃による機械学習モデルの精度低下を抑えるための防御手法を提案する． 機械学習モデルを構築するシナリオは様々あるが， 本研究ではIoT環境を想定している． IoT環境では， データの提供元が複数に分かれており， その中に攻撃者が潜むといった事が想定される． 本研究では， ポイズニング攻撃に使われる有害データを利用して提供元ごとに信頼度を定義し， その度合いに応じてデータを除去する事でポイズニング攻撃による精度低下を抑制している． 本研究における提案手法の評価実験において， 提案手法の検出精度が80%となり， 既存手法の精度を最大50%を上回る結果を示した． |
| （英） | In recent years, machine learning has been attracting attention for its potential to further enrich people's lives. However, this has been accompanied by an increase in the number of vulnerabilities in systems that use machine learning. One such threat is the poisoning attack, which introduces poisonous data into the training data used to build machine learning models. The goal of this attack is to reduce the accuracy of the machine learning model or to output the prediction results that the attacker intended. In this paper, we propose a defense method to reduce the accuracy degradation of machine learning models caused by poisoning attacks. There are various scenarios for constructing machine learning models, but in this study, we assume an IoT environment, in which there are multiple sources of data, and an attacker may hide in one of them. In this study, we define a trust level for each source of data using poisonous data used in poisoning attacks, and remove data according to the trust level to suppress the accuracy degradation caused by poisoning attacks. In the evaluation experiments of the proposed method in this study, the detection accuracy of the proposed method is 80%, which is up to 50% higher than the accuracy of existing method. | |
| キーワード | （和） | 機械学習 / セキュリティ / IoT / ポイズニング / / / / |
| （英） | machine learning / security / IoT / poisoning / / / / | |
| 文献情報 | 信学技報, vol. 120, no. 362, AI2020-36, pp. 73-78, 2021年2月. | |
| 資料番号 | AI2020-36 | |
| 発行日 | 2021-02-05 (AI) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | AI2020-36 |
|
| 研究会情報 | |
| 研究会 | AI |
| 開催期間 | 2021-02-12 - 2021-02-12 |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | 「データ市場特集VII：生活防災とコミュニティ・デザイン」および一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | AI |
| 会議コード | 2021-02-AI |
| 本文の言語 | 日本語 |
| タイトル（和） | IoT環境における機械学習のポイズニング攻撃に対して有害データの除去優先度を考慮した防御手法 |
| サブタイトル（和） | |
| タイトル（英） | A Defense Method for Machine Learning Poisoning Attacks in IoT Environments Considering the Removal Priority of Poisonous Data |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 機械学習 / machine learning |
| キーワード(2)（和/英） | セキュリティ / security |
| キーワード(3)（和/英） | IoT / IoT |
| キーワード(4)（和/英） | ポイズニング / poisoning |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 千葉 智樹 / Tomoki Chiba / チバ トモキ |
| 第1著者 所属（和/英） | 電気通信大学 (略称： 電通大) University of Electro-Communications (略称： UEC) |
| 第2著者 氏名（和/英/ヨミ） | 清 雄一 / Yuichi Sei / セイ ユウイチ |
| 第2著者 所属（和/英） | 電気通信大学 (略称： 電通大) University of Electro-Communications (略称： UEC) |
| 第3著者 氏名（和/英/ヨミ） | 田原 康之 / Yasuyuki Tahara / タハラ ヤスユキ |
| 第3著者 所属（和/英） | 電気通信大学 (略称： 電通大) University of Electro-Communications (略称： UEC) |
| 第4著者 氏名（和/英/ヨミ） | 大須賀 昭彦 / Akihiko Ohsuga / オオスガ アキヒコ |
| 第4著者 所属（和/英） | 電気通信大学 (略称： 電通大) University of Electro-Communications (略称： UEC) |
| 講演者 | 第1著者 |
| 発表日時 | 2021-02-12 16:30:00 |
| 発表時間 | 20分 |
| 申込先研究会 | AI |
| 資料番号 | AI2020-36 |
| 巻番号（vol） | vol.120 |
| 号番号（no） | no.362 |
| ページ範囲 | pp.73-78 |
| ページ数 | 6 |
| 発行日 | 2021-02-05 (AI) |
[研究会発表申込システムのトップページに戻る]