| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2023-08-04 18:45 連合学習におけるバックドアの発動遅延によるステルスな学習撹乱 ○筒井政成・金子竜也・高前田伸也（東大）  CPSY2023-26 DC2023-26 |
|
| 抄録 | （和） | 連合学習(Federated Learning)は,複数のエッジデバイスクライアントが,各々のプライベートな訓練データを他者に開示することなく,代わりにモデルパラメタの共有と統合を繰り返すことで,一つのモデルの学習を進める機械学習手法である. しかし,不特定多数のクライアントが学習に関与するこの手法において,モデルは常に悪意あるクライアントによる攻撃リスクに晒される.特に,特定の特徴をもつ入力に対してだけ推論を誤るようにモデルを改変するバックドア攻撃は重大な脅威とされ,防衛手法も多数研究されている.その中でも,検証用のクライアントが随時モデルの精度を監視し,その異常報告に応じて適宜モデルの状態を巻き戻すフィードバックベースの防衛手法は,プライバシー保護と安全性を両立する堅牢な防衛手法である. 本研究では,まず既存の防衛手法を,より合理的な問題設定のもとで発展させたチェック&ロールバック方式を提案する.そして,モデルの異常が攻撃直後に発生する,というフィードバックベースの防衛手法の前提に潜む脆弱性を明らかにするため,新たな学習妨害攻撃手法を提案する. それは,モデルの異常発生までに,敢えて遅延が生じるような攻撃を行うことで,隠密に学習の撹乱を引き起こす攻撃手法である. 本攻撃手法の提案をもって,連合学習のバックドア攻撃における新たな防衛手法の必要性を示す. |
| （英） | ||
| キーワード | （和） | 深層学習 / 連合学習 / バックドア攻撃 / セキュリティ / / / / |
| （英） | / / / / / / / | |
| 文献情報 | 信学技報, vol. 123, no. 145, CPSY2023-26, pp. 106-111, 2023年8月. | |
| 資料番号 | CPSY2023-26 | |
| 発行日 | 2023-07-26 (CPSY, DC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | CPSY2023-26 DC2023-26 |
|
| 研究会情報 | |
| 研究会 | CPSY DC IPSJ-ARC |
| 開催期間 | 2023-08-02 - 2023-08-04 |
| 開催地（和） | 函館アリーナ |
| 開催地（英） | Hakodate Arena |
| テーマ（和） | SWoPP2023: 並列／分散／協調システムとディペンダブルコンピューティングおよび一般 |
| テーマ（英） | SWoPP2023: Parallel, Distributed and Cooperative Processing Systems and Dependable Computing |
| 講演論文情報の詳細 | |
| 申込み研究会 | CPSY |
| 会議コード | 2023-08-CPSY-DC-ARC |
| 本文の言語 | 日本語（英語タイトルなし） |
| タイトル（和） | 連合学習におけるバックドアの発動遅延によるステルスな学習撹乱 |
| サブタイトル（和） | |
| タイトル（英） | |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 深層学習 / |
| キーワード(2)（和/英） | 連合学習 / |
| キーワード(3)（和/英） | バックドア攻撃 / |
| キーワード(4)（和/英） | セキュリティ / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 筒井 政成 / / ツツイ マサヨシ |
| 第1著者 所属（和/英） | 東京大学 (略称： 東大) (略称： ) |
| 第2著者 氏名（和/英/ヨミ） | 金子 竜也 / / |
| 第2著者 所属（和/英） | 東京大学 (略称： 東大) (略称： ) |
| 第3著者 氏名（和/英/ヨミ） | 高前田 伸也 / / |
| 第3著者 所属（和/英） | 東京大学 (略称： 東大) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2023-08-04 18:45:00 |
| 発表時間 | 25分 |
| 申込先研究会 | CPSY |
| 資料番号 | CPSY2023-26, DC2023-26 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | no.145(CPSY), no.146(DC) |
| ページ範囲 | pp.106-111 |
| ページ数 | 6 |
| 発行日 | 2023-07-26 (CPSY, DC) |
[研究会発表申込システムのトップページに戻る]