| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-05-21 10:30 ［ショートペーパー］過学習抑制のための情報源・通信路深層結合符号を用いた分散型学習 ○松村一冴・須藤克弥（電通大）  SR2024-13 |
|
| 抄録 | （和） | 機械学習において複数のクライアントが協調して高性能なモデルを構築する分散型学習が注目されている．しかしながら，分散型学習の一種である連合学習や分散連合学習では各クライアントが構築するローカルモデルの過学習によってグローバルモデルの性能が悪化する可能性がある．そこで本稿では，過学習抑制を目的として，情報源・通信路深層結合符号におけるノイズを利用したモデル伝送と各クライアントでの学習を逐次行う分散型学習を提案する．計算機シミュレーションにより，モデル伝送にノイズが加わることによって提案手法は低信号対雑音比環境において過学習を抑制できることを示す． |
| （英） | Federated learning and decentralized federated learning are becoming increasingly popular as distributed learning methods for constructing high-performance models through collaboration among multiple clients. However, there is a potential risk of the global model’s performance may suffer due to overfitting of the local models created by each local client. In this paper, we propose a distributed learning approach that uses deep joint source channel coding to avoid overfitting by utilizing noise. Our method involves transmitting a global model and parameter updates to each client sequentially. Through the computational simulations, we demonstrate that the proposed method can avoid overfitting in a low signal-to-noise ratio environment due to the addition of noise in the model transmission. | |
| キーワード | （和） | 分散型学習 / 情報源・通信路深層結合符号 / ノイズ / 過学習 / モデル伝送 / / / |
| （英） | Distributed learning / Deep joint source channel coding / Noise / Overfitting / Model transmission / / / | |
| 文献情報 | 信学技報, vol. 124, no. 41, SR2024-13, pp. 58-60, 2024年5月. | |
| 資料番号 | SR2024-13 | |
| 発行日 | 2024-05-13 (SR) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | SR2024-13 |
|
| 研究会情報 | |
| 研究会 | SR |
| 開催期間 | 2024-05-20 - 2024-05-21 |
| 開催地（和） | 勤労者交流センター(鹿児島) |
| 開催地（英） | Yokacenter (Kagoshima) |
| テーマ（和） | ソフトウェア無線、AI/機械学習応用、一般 |
| テーマ（英） | Software Defined Radio, AI/ML Application, etc |
| 講演論文情報の詳細 | |
| 申込み研究会 | SR |
| 会議コード | 2024-05-SR |
| 本文の言語 | 日本語 |
| タイトル（和） | 過学習抑制のための情報源・通信路深層結合符号を用いた分散型学習 |
| サブタイトル（和） | |
| タイトル（英） | Distributed Learning with Deep Joint Source Channel Coding for Overfitting Avoidance |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 分散型学習 / Distributed learning |
| キーワード(2)（和/英） | 情報源・通信路深層結合符号 / Deep joint source channel coding |
| キーワード(3)（和/英） | ノイズ / Noise |
| キーワード(4)（和/英） | 過学習 / Overfitting |
| キーワード(5)（和/英） | モデル伝送 / Model transmission |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 松村 一冴 / Issa Matsumura / マツムラ イッサ |
| 第1著者 所属（和/英） | 電気通信大学 (略称： 電通大) The University of Electro-Communications (略称： UEC) |
| 第2著者 氏名（和/英/ヨミ） | 須藤 克弥 / Katsuya Suto / ストウ カツヤ |
| 第2著者 所属（和/英） | 電気通信大学 (略称： 電通大) The University of Electro-Communications (略称： UEC) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-05-21 10:30:00 |
| 発表時間 | 15分 |
| 申込先研究会 | SR |
| 資料番号 | SR2024-13 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.41 |
| ページ範囲 | pp.58-60 |
| ページ数 | 3 |
| 発行日 | 2024-05-13 (SR) |
[研究会発表申込システムのトップページに戻る]