講演抄録/キーワード |
講演名 |
2023-03-02 14:30
[ポスター講演]Federated Learningにおいて悪意のある分散ノードを除外するための一検討 ○赤井怜音・栗林 稔・舩曵信生(岡山大) EMM2022-84 |
抄録 |
(和) |
深層学習技術において,複数の企業や病院において持ち出し厳禁なデータを活用するために,各ノードで学習させた深層学習モデルを集約させるFederated Learning(FL)が提案されている.
しかし,分散ノード中に悪意のあるノードが存在するとシステム全体の性能が低下する問題がある.
本研究では,FLの代表的な手法の1つであるFederated Averaging(FedAvg)において,悪意のあるノードを除外することでシステム全体の性能低下を防ぐ手法を検討する.
悪意のあるノードから中央サーバに送信される重みパラメータは,正常なノードの重みパラメータと比べて,統計的な傾向が大きく異なる.
そこで提案手法では,深層学習モデル中のネットワーク間の各位置において,複数のノードから届いた重みパラメータから外れ値を除外する.
計算機シミュレーションにより,この処理によって学習効率の劣化はあまり生じないことを明らかにした.
さらに,FedAvgにおいて,中央サーバの学習モデルを更新するごとに,その重み情報をファイルとして保存し,ファイルを読み込み,学習を再開できるようにすることでシステム全体が性能低下する前の状態に復帰できる手法を提案し,その有効性を数量的に検証した. |
(英) |
Federated learning (FL) has been proposed to aggregate deep learning models trained at each node in order to utilize privacy-sensitive data stored separately at each.
However, the presence of malicious nodes among the nodes can degrade the performance of the entire system.
In this study, we investigate a method to prevent performance degradation of the entire system by excluding malicious nodes in federated averaging (FedAvg).
The weight parameters trained at malicious nodes must differ significantly in their statistical characteristics compared to the weight parameters of the normal nodes.
Therefore, the proposed method excludes outliers from the weight parameters received from multiple nodes in the deep neural network (DNN) model.
Our simulations show that this process does not cause much degradation in learning efficiency.
Furthermore, we proposed a method for FedAvg to save the weight parameters each round of training, and to load the file and resume learning, so that the entire system can return to the state before the performance degradation. |
キーワード |
(和) |
連合学習 / 深層学習 / 機械学習 / Federated Averaging / / / / |
(英) |
Federated Learning / Deep Learning / Machine Learning / Federated Averaging / / / / |
文献情報 |
信学技報, vol. 122, no. 412, EMM2022-84, pp. 89-94, 2023年3月. |
資料番号 |
EMM2022-84 |
発行日 |
2023-02-23 (EMM) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
EMM2022-84 |
研究会情報 |
研究会 |
EMM |
開催期間 |
2023-03-02 - 2023-03-03 |
開催地(和) |
福江文化会館 |
開催地(英) |
Fukue culture hall |
テーマ(和) |
画質・音質評価,知覚・認知メトリクス,人間視聴覚システム,一般 |
テーマ(英) |
|
講演論文情報の詳細 |
申込み研究会 |
EMM |
会議コード |
2023-03-EMM |
本文の言語 |
日本語 |
タイトル(和) |
Federated Learningにおいて悪意のある分散ノードを除外するための一検討 |
サブタイトル(和) |
|
タイトル(英) |
A Study on Eliminating Malicious Node in Federated Learning |
サブタイトル(英) |
|
キーワード(1)(和/英) |
連合学習 / Federated Learning |
キーワード(2)(和/英) |
深層学習 / Deep Learning |
キーワード(3)(和/英) |
機械学習 / Machine Learning |
キーワード(4)(和/英) |
Federated Averaging / Federated Averaging |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
赤井 怜音 / Reon Akai / アカイ レオン |
第1著者 所属(和/英) |
岡山大学 (略称: 岡山大)
Okayama University (略称: Okayama Univ) |
第2著者 氏名(和/英/ヨミ) |
栗林 稔 / Minoru Kuribayashi / クリバヤシ ミノル |
第2著者 所属(和/英) |
岡山大学 (略称: 岡山大)
Okayama University (略称: Okayama Univ) |
第3著者 氏名(和/英/ヨミ) |
舩曵 信生 / Nobuo Funabiki / フナビキ ノブオ |
第3著者 所属(和/英) |
岡山大学 (略称: 岡山大)
Okayama University (略称: Okayama Univ) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2023-03-02 14:30:00 |
発表時間 |
75分 |
申込先研究会 |
EMM |
資料番号 |
EMM2022-84 |
巻番号(vol) |
vol.122 |
号番号(no) |
no.412 |
ページ範囲 |
pp.89-94 |
ページ数 |
6 |
発行日 |
2023-02-23 (EMM) |