| 講演抄録/キーワード |
| 講演名 |
2017-07-27 17:00
A study on Network Structure and Parameter Exchange Method in large-scale Cluster for Machine Learning ○Duo Zhang・Mingxi Li(Univ. of Tsukuba)・Yusuke Tanimura・Hidemoto Nakada(AIST) CPSY2017-29 |
| 抄録 |
(和) |
(まだ登録されていません) |
| (英) |
For modern machine learning systems, including deep learning systems, parallelization is inevitable since they are required to process massive amount of training data. One of the hot area of this area is the data parallel learning where multiple nodes cooperate each other exchanging parameter / gradient periodically. In this paper, we focus on the network resource requirement for this kind of application. We investigate 3-layered Clos network and omega-network adding to the 2-layered fat tree network which we have already reported. As parameter exchange method, we tested direct parameter exchange method and centralized server method. We evaluated these three types of network with SimGrid, a simulator for distributed environment, and confirmed that with suitable parameter exchange methods, we can maintain performance with higher over subscription factor. |
| キーワード |
(和) |
/ / / / / / / |
| (英) |
Machine learning / Parameter Server / Simulation / Clos network / / / / |
| 文献情報 |
信学技報, vol. 117, no. 153, CPSY2017-29, pp. 145-150, 2017年7月. |
| 資料番号 |
CPSY2017-29 |
| 発行日 |
2017-07-19 (CPSY) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
CPSY2017-29 |
| 研究会情報 |
| 研究会 |
CPSY DC IPSJ-ARC |
| 開催期間 |
2017-07-26 - 2017-07-28 |
| 開催地(和) |
秋田アトリオンビル(秋田) |
| 開催地(英) |
Akita Atorion-Building (Akita) |
| テーマ(和) |
並列/分散/協調とディペンダブルコンピューティングおよび一般 |
| テーマ(英) |
Parallel, Distributed and Cooperative Processing |
| 講演論文情報の詳細 |
| 申込み研究会 |
CPSY |
| 会議コード |
2017-07-CPSY-DC-ARC |
| 本文の言語 |
英語 |
| タイトル(和) |
|
| サブタイトル(和) |
|
| タイトル(英) |
A study on Network Structure and Parameter Exchange Method in large-scale Cluster for Machine Learning |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
/ Machine learning |
| キーワード(2)(和/英) |
/ Parameter Server |
| キーワード(3)(和/英) |
/ Simulation |
| キーワード(4)(和/英) |
/ Clos network |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
張 舵 / Duo Zhang / チョウ ダ |
| 第1著者 所属(和/英) |
筑波大学 (略称: 筑波大)
University of Tsukuba (略称: Univ. of Tsukuba) |
| 第2著者 氏名(和/英/ヨミ) |
黎 明曦 / Mingxi Li / レイ メイギ |
| 第2著者 所属(和/英) |
筑波大学 (略称: 筑波大)
University of Tsukuba (略称: Univ. of Tsukuba) |
| 第3著者 氏名(和/英/ヨミ) |
谷村 勇輔 / Yusuke Tanimura / タニムラ ユウスケ |
| 第3著者 所属(和/英) |
産業技術総合研究所 (略称: 産総研)
National Institute of Advanced Industrial Science and Technology (略称: AIST) |
| 第4著者 氏名(和/英/ヨミ) |
中田 秀基 / Hidemoto Nakada / ナカダ ヒデモト |
| 第4著者 所属(和/英) |
産業技術総合研究所 (略称: 産総研)
National Institute of Advanced Industrial Science and Technology (略称: AIST) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2017-07-27 17:00:00 |
| 発表時間 |
30分 |
| 申込先研究会 |
CPSY |
| 資料番号 |
CPSY2017-29 |
| 巻番号(vol) |
vol.117 |
| 号番号(no) |
no.153 |
| ページ範囲 |
pp.145-150 |
| ページ数 |
6 |
| 発行日 |
2017-07-19 (CPSY) |
|