| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2026-03-05 11:10 汎用スマートNICを用いた分散学習向け集合通信オフロードの実装 ○神保要成・武政淳二（阪大）・植田一暁（KDDI総合研究所）・小泉佑揮（阪大）  NS2025-294 |
|
| 抄録 | （和） | 分散学習における通信オーバーヘッドを解消するための手法として、ネットワークデバイスであるスマートNICを用いた分散学習アーキテクチャであるSmartNIC-GPU-CPU Heterogeneous System (SGC) が提案されている。しかし、SGCは高速なメモリと演算装置を持つFPGA評価ボードを用いて実装されており、SoCベースの汎用スマートNIC上のSGCの実現可能性の検証が課題である。本研究では、SoCベースのスマートNICであるBlueField 3上にSGCを実装し、集合通信の性能を評価した。スマートNICの狭帯域なDRAMとスマートNICへのオフロードに伴うメモリコピー増加により、NVIDIA Collective Communications Library（NCCL）と比較して約1.5--2倍の遅延が増加した。一方で、集約処理をスマートNIC側に移譲することで、GPU側の通信処理に割くオーバーヘッドが約5--10%低減した。さらに、計算と通信の重畳により追加レイテンシを隠蔽できる分散学習ワークロードでは、1ステップ実行時間の短縮が確認された。 |
| （英） | To mitigate communication overhead in distributed training, a SmartNIC-based distributed learning architecture called SGC has been proposed. However, it is implemented on an FPGA evaluation board equipped with high-bandwidth memory and powerful compute units, and it leaves the feasibility of deploying SGC on SoC-based commodity SmartNICs open. In this study, we implement SGC on BlueField-3, an SoC SmartNIC, and evaluate its performance experimentally. Due to the limited DRAM bandwidth of the SmartNIC and the additional memory copies incurred by the offloading mechanism, communication latency increases by approximately 1.5--2$times$ compared to the NVIDIA Collective Communication library (NCCL). On the other hand, offloading aggregation computation to the SmartNIC reduces GPU-side communication overhead by approximately 5--10%. Furthermore, the additional latency can be effectively hidden for workloads that can overlap computation and communication, and it reduces per-step training execution time. |
|
| キーワード | （和） | 分散学習 / 集合通信 / スマートNIC / / / / / |
| （英） | Distributed learning / Collective communication / SmartNIC / / / / / | |
| 文献情報 | 信学技報, vol. 125, no. 385, NS2025-294, pp. 432-437, 2026年3月. | |
| 資料番号 | NS2025-294 | |
| 発行日 | 2026-02-25 (NS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NS2025-294 |
|
| 研究会情報 | |
| 研究会 | IN NS |
| 開催期間 | 2026-03-04 - 2026-03-06 |
| 開催地（和） | 沖縄県市町村自治会館 |
| 開催地（英） | Okinawa-Ken Shichoson Jichi Kaikan |
| テーマ（和） | 一般 |
| テーマ（英） | General |
| 講演論文情報の詳細 | |
| 申込み研究会 | NS |
| 会議コード | 2026-03-IN-NS |
| 本文の言語 | 日本語 |
| タイトル（和） | 汎用スマートNICを用いた分散学習向け集合通信オフロードの実装 |
| サブタイトル（和） | |
| タイトル（英） | Implementation of Collective Communication Offloading using Commodity SmartNICs for Distributed Learning |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 分散学習 / Distributed learning |
| キーワード(2)（和/英） | 集合通信 / Collective communication |
| キーワード(3)（和/英） | スマートNIC / SmartNIC |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 神保 要成 / Yosei Jinbo / ジンボ ヨウセイ |
| 第1著者 所属（和/英） | 大阪大学 (略称： 阪大) The University of Osaka (略称： UOsaka) |
| 第2著者 氏名（和/英/ヨミ） | 武政 淳二 / junji takemasa / タケマサ ジュンジ |
| 第2著者 所属（和/英） | 大阪大学 (略称： 阪大) The University of Osaka (略称： UOsaka) |
| 第3著者 氏名（和/英/ヨミ） | 植田 一暁 / ueda kazuaki / ウエダ カズアキ |
| 第3著者 所属（和/英） | KDDI総合研究所 (略称： KDDI総合研究所) KDDI Research, Inc (略称： KDDI Research, Inc) |
| 第4著者 氏名（和/英/ヨミ） | 小泉 佑揮 / yuki koizumi / コイズミ ユウキ |
| 第4著者 所属（和/英） | 大阪大学 (略称： 阪大) The University of Osaka (略称： UOsaka) |
| 講演者 | 第1著者 |
| 発表日時 | 2026-03-05 11:10:00 |
| 発表時間 | 25分 |
| 申込先研究会 | NS |
| 資料番号 | NS2025-294 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.385 |
| ページ範囲 | pp.432-437 |
| ページ数 | 6 |
| 発行日 | 2026-02-25 (NS) |
[研究会発表申込システムのトップページに戻る]