| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2023-01-19 13:50 ［ショートペーパー］モデル巡回型学習による分散FederatedLearning ○前島航太・西尾理志・山﨑朝斗・原 祐子（東工大）  SeMI2022-75 |
|
| 抄録 | （和） | P2P FL(Peer-to-Peer Federated Learning)は, クライアント間で学習データを共有することなく, それぞれのノードが学習したモデルの更新情報のみを通信することでクライアント全体でモデルを構築する機械学習手法である.しかし, データ分布がNon-IID(non-Independent and Identically Distributed)であると, ノードごとの更新が必ずしもモデルの改善に寄与するとは限らないため, 従来の機械学習と比較して精度が劣化する.本稿では, モデルの巡回に基づく新たなP2P FL手法を提案する.提案手法では各クライアントの持つデータの分布をもとに巡回経路を決定し, １つのモデルをクライアント間で巡回させながら順番に訓練することで, 擬似的にIIDデータでの訓練と同様のモデル更新を可能とする.実験評価により, 隣接ノード間で定期的にモデルの交換をすることで学習するGossipSGDに隣接ノードのモデルが同一なものに収束するように制約を加えるPDMM-SGDと比べ, データ分布の偏りがより大きい設定において提案手法がより良い収束性を示した. |
| （英） | Peer-to-Peer(P2P) Federated Learning is a machine learning method that builds models across clients without sharing training data among clients. When the data distribution is Non-IID(non-Independent and Identically Distributed), the accuracy of the learned model in P2P Federated Learning deteriorates than in centralized machine learning, which gathers datasets in a central server. In this paper, we propose a method to prevent the model accuracy degradation in P2P Federated Learning in the Non-IID setting. In the proposed method, a single model is circulated over the network and trained by each client in turn. By appropriately routing the model based on the label distribution among clients, the model can be well-trained on non-IID data, similarly to when trained on IID data. Our evaluation results show that the proposed method converges faster than baselines, GossipSGD and PDMM-SGD, especially when the data stored by each client is far from the IID data. | |
| キーワード | （和） | 機械学習 / 連合学習 / 非独立同分布 / / / / / |
| （英） | Machine Learning / Federated Learning / Non-IID / / / / / | |
| 文献情報 | 信学技報, vol. 122, no. 341, SeMI2022-75, pp. 23-24, 2023年1月. | |
| 資料番号 | SeMI2022-75 | |
| 発行日 | 2023-01-12 (SeMI) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | SeMI2022-75 |
|
| 研究会情報 | |
| 研究会 | SeMI SeMI |
| 開催期間 | 2023-01-19 - 2023-01-20 |
| 開催地（和） | 鳴門グランドホテル海月 |
| 開催地（英） | Naruto grand hotel |
| テーマ（和） | センシング，モビリティ，モバイル・ユビキタスコンピューティング，センサ・アドホック・モバイルネットワーク，アプリケーション，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SeMI |
| 会議コード | 2023-01-SeMI-SeMI |
| 本文の言語 | 日本語 |
| タイトル（和） | モデル巡回型学習による分散FederatedLearning |
| サブタイトル（和） | |
| タイトル（英） | A Study of decentralized model training method based on traveling model for P2P Federated Learning |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 機械学習 / Machine Learning |
| キーワード(2)（和/英） | 連合学習 / Federated Learning |
| キーワード(3)（和/英） | 非独立同分布 / Non-IID |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 前島 航太 / Kota Maejima / マエジマ コウタ |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech) |
| 第2著者 氏名（和/英/ヨミ） | 西尾 理志 / Takayuki Nishio / ニシオ タカユキ |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech) |
| 第3著者 氏名（和/英/ヨミ） | 山﨑 朝斗 / Asato Yamazaki / ヤマザキ アサト |
| 第3著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech) |
| 第4著者 氏名（和/英/ヨミ） | 原 祐子 / Yuko Hara / ハラ ユウコ |
| 第4著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech) |
| 講演者 | 第1著者 |
| 発表日時 | 2023-01-19 13:50:00 |
| 発表時間 | 10分 |
| 申込先研究会 | SeMI |
| 資料番号 | SeMI2022-75 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | no.341 |
| ページ範囲 | pp.23-24 |
| ページ数 | 2 |
| 発行日 | 2023-01-12 (SeMI) |
[研究会発表申込システムのトップページに戻る]