| 講演抄録/キーワード |
| 講演名 |
2013-06-17 14:35
NICTサイエンスクラウド ~ ビッグデータ分散処理性能検証 ~ ○磯田総子(サイエンスサービス)・村田健史・渡邉英伸(NICT)・深沢圭一郎(九大)・山本和憲(NICT)・建部修見・田中昌宏(筑波大)・木村映善(愛媛大) SC2013-4 |
| 抄録 |
(和) |
現在,欧米や日本において,科学研究向けクラウドとしてサイエンスクラウドが提案され,システムや利活用についての議論が進められている.サイエンスクラウドはビッグデータ時代のデータ指向型科学研究基盤として期待されている.クラウド上でのビッグデータ処理では,CPUの並列分散化だけではなくネットワークやI/Oの並列分散が重要である.サイエンスクラウドで主流になると考えられるのは,複数サーバをクラスタとして管理し,クラウド内で複数クラスタを接続したスケーラブルクラスタ環境である.本研究ではこのようなスケーラブルクラスタで高い計算効率を得るための基礎研究として,クラスタ内(6台×8コア)でCPUおよびI/Oを同時に分散処理する試験環境で基礎実験を行った.その結果,ノード内のプロセス数が少ない場合はほぼ100%の高速化率が達成され,大規模クラスタ環境でも高いスケーラビリティーが予測された.一方,ノード内で複数プロセスが処理を行う場合にはディスクアクセスの輻輳が発生し,必ずしも高いスケーラビリティーを得ることができない.8コアを有する計算サーバで最も高い高速化率を得たのは8プロセス並列の場合であり,高速化率は約15.6であった.今後は,同ノード内のI/O処理を分散化することで,高速化率をさらに向上させることが期待される. |
| (英) |
Science cloud is a cloud system designed for scientific researches, and expected as a new infrastructure for big data sciences. Not only parallelization of CPU as in super-computers, but I/O and network throughput parallelization are crucial for the big data science. One of the typical structures of science cloud is a scalable cluster in which multiple clusters in a cloud are connected with high-speed network. In the present study, we study a performance of parallelization of both CPU and I/O inside a cloud as a first step to the high performance scalable clusters. In case with few processes executed on each computational node (server), parallelization efficiency is almost 100%. This high efficiency is expected to maintain in larger-scale cluster systems such as those with 100 servers. On the other hand, under the condition of multi-processes on each node, the present parallelization does not show good performance due to the congestions of I/O. Parallelization efficiency is as low as 15.6. New techniques of decentralization of I/O within each node are required in the next step. |
| キーワード |
(和) |
サイエンスクラウド / Gfarm / Pwrake / ビッグデータ / 磁気圏MHDシミュレーション / / / |
| (英) |
ScienceCloud / Gfarm / Pwrake / Big data / Magnetspheric MHD simulation / / / |
| 文献情報 |
信学技報, vol. 113, no. 86, SC2013-4, pp. 19-24, 2013年6月. |
| 資料番号 |
SC2013-4 |
| 発行日 |
2013-06-10 (SC) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
SC2013-4 |