| 講演抄録/キーワード |
| 講演名 |
2015-08-05 17:00
マスタ・ワーカ型パラメータサーバの実装とBESOMへの適用 ○黎 明曦(筑波大)・谷村勇輔・一杉裕志・中田秀基(産総研) CPSY2015-33 |
| 抄録 |
(和) |
大脳皮質の計算論的モデルとしてBESOMを提案している。BESOMは最新の神経科学的な知見に基づいてベイジアンネットで大脳皮質をモデル化したもので、人間の脳の比較的忠実なモデルとなっていることから、科学的に興味深いだけではなく、工学的にも広い応用が期待できる。その一方、BESOMにおける学習には、近年注目を集めているニューラルネットによるディープラーニングよりもさらに計算量が大きいことから、並列化による実行速度向上が要請される。本稿では、汎用のマスタ・ワーカ型タスク実行フレームワークを用いて、学習パラメータを交換するパラメータサーバを構築し、複数のBESOMモデルが協調して並列に学習する環境を実現した。これに、計算機内でのスレッド並列を組み合わせることで、16台4スレッドを用いた場合で、最大40倍程度の高速化が可能であること、また、高速化の度合いは並列実行時のバッチサイズに依存することを確認した。 |
| (英) |
We have been proposing a computational model of the cerebral cortex called BESOM. BESOMmodels the cerebral cortex as Bayesian network based on recent findings in the neuroscience area. Because of its (relatively) faithful modeling, BESOMis not only scientifically interesting but also expected to be practically useful. On the other hand, machine learning with BESOMis a quite computation intensive task, even compared with the deep learning with conventional neural networks, that attract public attention recently. This means that parallel computation with multiple node is essential for BESOM. In this paper we implement a parameter exchange mechanism, publically known as ’parameter server’, using a general-purpose master-worker task execution mechanism, and constructed multi-node BESOMexecution environment using it. We confirmed the it shows 40 times faster execution time with 16 nodes and 8 threads each. |
| キーワード |
(和) |
BESOM / マスタ・ワーカ / パラメータサーバ / / / / / |
| (英) |
BESOM / Master-Worker / Parameter server / / / / / |
| 文献情報 |
信学技報, vol. 115, no. 174, CPSY2015-33, pp. 179-184, 2015年8月. |
| 資料番号 |
CPSY2015-33 |
| 発行日 |
2015-07-28 (CPSY) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
CPSY2015-33 |
| 研究会情報 |
| 研究会 |
CPSY DC IPSJ-ARC |
| 開催期間 |
2015-08-04 - 2015-08-06 |
| 開催地(和) |
ビーコンプラザ(別府) |
| 開催地(英) |
B-Con Plaza (Beppu) |
| テーマ(和) |
並列/分散/協調とディペンダブルコンピューティングおよび一般 |
| テーマ(英) |
Parallel, Distributed and Cooperative Processing |
| 講演論文情報の詳細 |
| 申込み研究会 |
CPSY |
| 会議コード |
2015-08-CPSY-DC-ARC |
| 本文の言語 |
日本語 |
| タイトル(和) |
マスタ・ワーカ型パラメータサーバの実装とBESOMへの適用 |
| サブタイトル(和) |
|
| タイトル(英) |
An Implementation of the Master-Worker based Parameter Server and its Application to BESOM |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
BESOM / BESOM |
| キーワード(2)(和/英) |
マスタ・ワーカ / Master-Worker |
| キーワード(3)(和/英) |
パラメータサーバ / Parameter server |
| キーワード(4)(和/英) |
/ |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
黎 明曦 / Meigi Rei / レイ メイギ |
| 第1著者 所属(和/英) |
筑波大学 (略称: 筑波大)
University of Tsukuba (略称: U of Tsukuba) |
| 第2著者 氏名(和/英/ヨミ) |
谷村 勇輔 / Yusuke Tanimura / タニムラ ユウスケ |
| 第2著者 所属(和/英) |
産業技術総合研究所 (略称: 産総研)
National Institute of Advanced Industrial Science and Technology (略称: AIST) |
| 第3著者 氏名(和/英/ヨミ) |
一杉 裕志 / Yuuji Ichisugi / イチスギ ユウジ |
| 第3著者 所属(和/英) |
産業技術総合研究所 (略称: 産総研)
National Institute of Advanced Industrial Science and Technology (略称: AIST) |
| 第4著者 氏名(和/英/ヨミ) |
中田 秀基 / Hidemoto Nakada / ナカダ ヒデモト |
| 第4著者 所属(和/英) |
産業技術総合研究所 (略称: 産総研)
National Institute of Advanced Industrial Science and Technology (略称: AIST) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2015-08-05 17:00:00 |
| 発表時間 |
30分 |
| 申込先研究会 |
CPSY |
| 資料番号 |
CPSY2015-33 |
| 巻番号(vol) |
vol.115 |
| 号番号(no) |
no.174 |
| ページ範囲 |
pp.179-184 |
| ページ数 |
6 |
| 発行日 |
2015-07-28 (CPSY) |