| 講演抄録／キーワード |
| 講演名 |
2024-11-12 11:15
［ポスター講演］連合学習における半ターゲット型モデルポイズニング攻撃に対する分散型防御手法
○呉 牧周（芝浦工大）・小野翔多（東大）・山崎 託・三好 匠（芝浦工大） |
| 抄録 |
（和） |
連合学習（Federated Learning: FL）は，複数のデバイスや組織における分散型のモデルトレーニングを実現しつつ，データプライバシーを保護する技術である．しかし，FLは悪意のある参加者が有害なモデル更新を注入するモデルポイズニング攻撃に対して脆弱である．特に，半ターゲット型モデルポイズニング攻撃は，元のクラスに類似した分類ラベルを巧妙に改変することで，検出が非常に困難となる．本稿では，集中化された検証データセットに依存しない新たな防御手法を提案する．より現実的なシナリオとして，グローバルモデルを集約・生成するパラメータサーバが検証データにアクセスできない状況を仮定する．この条件下で，エッジクライアント同士が互いにモデルを交換し，特徴分布を比較することで各クライアントの更新を検証する．本手法は，検証プロセスを分散化することで，半ターゲット型モデルポイズニング攻撃に対する堅牢性を向上させ，現実的な適用性を高めることを目指している． |
| （英） |
Federated Learning (FL) enables decentralized model training across multiple devices or organizations, preserving data privacy. However, it remains vulnerable to model poisoning attacks, where malicious participants inject harmful updates. As a variant of such attack, the semi-targeted model poisoning attack, which modifies classification labels to those most similar to the original class in order to make detection more difficult. In this paper, we propose a novel defense mechanism to mitigate semi-targeted model poisoning attacks without relying on a centralized validation dataset. Instead, we assume a more realistic scenario where the parameter server that aggregates and generates global models lacks access to validation data. Edge clients, situated nearby, exchange their models and validate each other's updates by comparing feature distributions. The proposed method is designed to improve real-world applicability by decentralizing validation and ensuring robustness against semi-targeted poisoning attacks. |
| キーワード |
（和） |
連合学習 / 特徴分布分析 / ロバスト集約 / エッジコンピューティング / モデルポイズニング防御 / / / |
| （英） |
Federated learning / Feature distribution analysis / Robust aggregation / Edge computing / Model poisoning defense / / / |
| 文献情報 |
信学技報 |
| 資料番号 |
|
| 発行日 |
|
| ISSN |
|
| PDFダウンロード |
|
| 研究会情報 |
| 研究会 |
RISING |
| 開催期間 |
2024-11-11 - 2024-11-12 |
| 開催地（和） |
北海道立道民活動センター かでる2・7 |
| 開催地（英） |
Kaderu 2・7 (Sapporo) |
| テーマ（和） |
超知性通信ネットワークに関する研究，一般 |
| テーマ（英） |
Cross-Field Research Association of Super-Intelligent Networking |
| 講演論文情報の詳細 |
| 申込み研究会 |
RISING |
| 会議コード |
2024-11-RISING |
| 本文の言語 |
日本語 |
| タイトル（和） |
連合学習における半ターゲット型モデルポイズニング攻撃に対する分散型防御手法 |
| サブタイトル（和） |
|
| タイトル（英） |
A Decentralized Validation Approach for Mitigating Semi-Targeted Model Poisoning Attacks in Federated Learning |
| サブタイトル（英） |
|
| キーワード(1)（和/英） |
連合学習 / Federated learning |
| キーワード(2)（和/英） |
特徴分布分析 / Feature distribution analysis |
| キーワード(3)（和/英） |
ロバスト集約 / Robust aggregation |
| キーワード(4)（和/英） |
エッジコンピューティング / Edge computing |
| キーワード(5)（和/英） |
モデルポイズニング防御 / Model poisoning defense |
| キーワード(6)（和/英） |
/ |
| キーワード(7)（和/英） |
/ |
| キーワード(8)（和/英） |
/ |
| 第1著者 氏名（和/英/ヨミ） |
呉 牧周 / Makihiro Go / ゴ マキヒロ |
| 第1著者 所属（和/英） |
芝浦工業大学 (略称： 芝浦工大)
Shibaura Institute of Technology (略称： SIT) |
| 第2著者 氏名（和/英/ヨミ） |
小野 翔多 / Shota Ono / オノ ショウタ |
| 第2著者 所属（和/英） |
東京大学 (略称： 東大)
University of Tokyo (略称： UTokyo) |
| 第3著者 氏名（和/英/ヨミ） |
山崎 託 / Taku Yamazaki / ヤマザキ タク |
| 第3著者 所属（和/英） |
芝浦工業大学 (略称： 芝浦工大)
Shibaura Institute of Technology (略称： SIT) |
| 第4著者 氏名（和/英/ヨミ） |
三好 匠 / Takumi Miyoshi / ミヨシ タクミ |
| 第4著者 所属（和/英） |
芝浦工業大学 (略称： 芝浦工大)
Shibaura Institute of Technology (略称： SIT) |
| 第5著者 氏名（和/英/ヨミ） |
/ / |
| 第5著者 所属（和/英） |
(略称： )
(略称： ) |
| 第6著者 氏名（和/英/ヨミ） |
/ / |
| 第6著者 所属（和/英） |
(略称： )
(略称： ) |
| 第7著者 氏名（和/英/ヨミ） |
/ / |
| 第7著者 所属（和/英） |
(略称： )
(略称： ) |
| 第8著者 氏名（和/英/ヨミ） |
/ / |
| 第8著者 所属（和/英） |
(略称： )
(略称： ) |
| 第9著者 氏名（和/英/ヨミ） |
/ / |
| 第9著者 所属（和/英） |
(略称： )
(略称： ) |
| 第10著者 氏名（和/英/ヨミ） |
/ / |
| 第10著者 所属（和/英） |
(略称： )
(略称： ) |
| 第11著者 氏名（和/英/ヨミ） |
/ / |
| 第11著者 所属（和/英） |
(略称： )
(略称： ) |
| 第12著者 氏名（和/英/ヨミ） |
/ / |
| 第12著者 所属（和/英） |
(略称： )
(略称： ) |
| 第13著者 氏名（和/英/ヨミ） |
/ / |
| 第13著者 所属（和/英） |
(略称： )
(略称： ) |
| 第14著者 氏名（和/英/ヨミ） |
/ / |
| 第14著者 所属（和/英） |
(略称： )
(略称： ) |
| 第15著者 氏名（和/英/ヨミ） |
/ / |
| 第15著者 所属（和/英） |
(略称： )
(略称： ) |
| 第16著者 氏名（和/英/ヨミ） |
/ / |
| 第16著者 所属（和/英） |
(略称： )
(略称： ) |
| 第17著者 氏名（和/英/ヨミ） |
/ / |
| 第17著者 所属（和/英） |
(略称： )
(略称： ) |
| 第18著者 氏名（和/英/ヨミ） |
/ / |
| 第18著者 所属（和/英） |
(略称： )
(略称： ) |
| 第19著者 氏名（和/英/ヨミ） |
/ / |
| 第19著者 所属（和/英） |
(略称： )
(略称： ) |
| 第20著者 氏名（和/英/ヨミ） |
/ / |
| 第20著者 所属（和/英） |
(略称： )
(略称： ) |
| 第21著者 氏名（和/英/ヨミ） |
/ / |
| 第21著者 所属（和/英） |
(略称： )
(略称： ) |
| 第22著者 氏名（和/英/ヨミ） |
/ / |
| 第22著者 所属（和/英） |
(略称： )
(略称： ) |
| 第23著者 氏名（和/英/ヨミ） |
/ / |
| 第23著者 所属（和/英） |
(略称： )
(略称： ) |
| 第24著者 氏名（和/英/ヨミ） |
/ / |
| 第24著者 所属（和/英） |
(略称： )
(略称： ) |
| 第25著者 氏名（和/英/ヨミ） |
/ / |
| 第25著者 所属（和/英） |
(略称： )
(略称： ) |
| 第26著者 氏名（和/英/ヨミ） |
/ / |
| 第26著者 所属（和/英） |
(略称： )
(略称： ) |
| 第27著者 氏名（和/英/ヨミ） |
/ / |
| 第27著者 所属（和/英） |
(略称： )
(略称： ) |
| 第28著者 氏名（和/英/ヨミ） |
/ / |
| 第28著者 所属（和/英） |
(略称： )
(略称： ) |
| 第29著者 氏名（和/英/ヨミ） |
/ / |
| 第29著者 所属（和/英） |
(略称： )
(略称： ) |
| 第30著者 氏名（和/英/ヨミ） |
/ / |
| 第30著者 所属（和/英） |
(略称： )
(略称： ) |
| 第31著者 氏名（和/英/ヨミ） |
/ / |
| 第31著者 所属（和/英） |
(略称： )
(略称： ) |
| 第32著者 氏名（和/英/ヨミ） |
/ / |
| 第32著者 所属（和/英） |
(略称： )
(略称： ) |
| 第33著者 氏名（和/英/ヨミ） |
/ / |
| 第33著者 所属（和/英） |
(略称： )
(略称： ) |
| 第34著者 氏名（和/英/ヨミ） |
/ / |
| 第34著者 所属（和/英） |
(略称： )
(略称： ) |
| 第35著者 氏名（和/英/ヨミ） |
/ / |
| 第35著者 所属（和/英） |
(略称： )
(略称： ) |
| 第36著者 氏名（和/英/ヨミ） |
/ / |
| 第36著者 所属（和/英） |
(略称： )
(略称： ) |
| 講演者 |
第1著者 |
| 発表日時 |
2024-11-12 11:15:00 |
| 発表時間 |
50分 |
| 申込先研究会 |
RISING |
| 資料番号 |
|
| 巻番号（vol） |
vol. |
| 号番号（no） |
|
| ページ範囲 |
|
| ページ数 |
|
| 発行日 |
|