| 講演抄録/キーワード |
| 講演名 |
2025-03-07 13:25
IOWN APNを活用した連合学習システムのフィージビリティ検証 ○田村桜子・深見 匠・山﨑雄輔・磯貝奈穂(NTT) IN2024-123 |
| 抄録 |
(和) |
連合学習は, データは共有せずに, 各クライアントで作成するローカルモデルだけをサーバーへ共有・統合することでAIモデルを学習できる技術として注目を集めている. しかし, AIモデルを学習する過程で, クライアント・サーバー間で通信を繰り返し行うため, 特にモデルサイズの大きい大規模言語モデルにおいて通信処理がボトルネックとなる可能性がある. 今回は, 通信環境として広帯域・低遅延を実現するNTTの光通信ネットワーク環境であるIOWN APNを活用した際の連合学習のフィージビリティについて検証を行った. IOWN APNにおいては, IOWN APNの安全性を高めるセキュア光トランスポートネットワークの適用の有無における通信時間のオーバーヘッドについて検証を行う. また, IOWN APN環境及びインターネット環境における連合学習について, 各処理ごとの処理時間について測定し, データをやり取りするクライアントとサーバーの間の通信環境が連合学習処理時間に及ぼす影響を考察する. |
| (英) |
Federated learning has attracted attention as a technology that enables AI model training without sharing data by exchanging and integrating only locally trained models between clients and a central server. However, during the learning process, continuous communication between clients and the server can become a bottleneck, especially in Large Language Models with significant model sizes.
In this paper, we investigate the feasibility of federated learning using NTT's optical communication network environment, IOWN APN, which provides high bandwidth and low latency. We evaluate the communication overhead associated with the application or non-application of a secure optical transport network, which enhances the security of IOWN APN.
Furthermore, we measure the processing time for each step of federated learning in both the IOWN APN environment and a standard internet environment, analyzing how the communication environment between clients and the server affects the overall processing time of federated learning. The results of this study provide insights into the effectiveness of high-speed, low-latency networks for federated learning, particularly in mitigating communication bottlenecks for Large Language Models. |
| キーワード |
(和) |
連合学習 / IOWN APN / LLM / 通信時間 / / / / |
| (英) |
Federated Learning / IOWN APN / LLM / Communication overhead / / / / |
| 文献情報 |
信学技報, vol. 124, no. 420, IN2024-123, pp. 272-277, 2025年3月. |
| 資料番号 |
IN2024-123 |
| 発行日 |
2025-02-27 (IN) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IN2024-123 |
| 研究会情報 |
| 研究会 |
IN NS |
| 開催期間 |
2025-03-06 - 2025-03-07 |
| 開催地(和) |
沖縄産業支援センター |
| 開催地(英) |
Okinawa Industry Support Center |
| テーマ(和) |
一般 |
| テーマ(英) |
General |
| 講演論文情報の詳細 |
| 申込み研究会 |
IN |
| 会議コード |
2025-03-IN-NS |
| 本文の言語 |
日本語 |
| タイトル(和) |
IOWN APNを活用した連合学習システムのフィージビリティ検証 |
| サブタイトル(和) |
|
| タイトル(英) |
Feasibility Study of Federated Learning Systems Using IOWN APN |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
連合学習 / Federated Learning |
| キーワード(2)(和/英) |
IOWN APN / IOWN APN |
| キーワード(3)(和/英) |
LLM / LLM |
| キーワード(4)(和/英) |
通信時間 / Communication overhead |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
田村 桜子 / Sakurako Tamura / タムラ サクラコ |
| 第1著者 所属(和/英) |
日本電信電話株式会社 (略称: NTT)
Nippon Telegraph and Telephone Corporation (略称: NTT) |
| 第2著者 氏名(和/英/ヨミ) |
深見 匠 / Takumi Fukami / フカミ タクミ |
| 第2著者 所属(和/英) |
日本電信電話株式会社 (略称: NTT)
Nippon Telegraph and Telephone Corporation (略称: NTT) |
| 第3著者 氏名(和/英/ヨミ) |
山﨑 雄輔 / Yusuke Yamasaki / ヤマサキ ユウスケ |
| 第3著者 所属(和/英) |
日本電信電話株式会社 (略称: NTT)
Nippon Telegraph and Telephone Corporation (略称: NTT) |
| 第4著者 氏名(和/英/ヨミ) |
磯貝 奈穂 / Naho Isogai / イソガイ ナホ |
| 第4著者 所属(和/英) |
日本電信電話株式会社 (略称: NTT)
Nippon Telegraph and Telephone Corporation (略称: NTT) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2025-03-07 13:25:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
IN |
| 資料番号 |
IN2024-123 |
| 巻番号(vol) |
vol.124 |
| 号番号(no) |
no.420 |
| ページ範囲 |
pp.272-277 |
| ページ数 |
6 |
| 発行日 |
2025-02-27 (IN) |
|