| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2011-03-28 11:30 MPI/OpenMPハイブリッド並列化による潜在的ディリクレ配分法の効率的推定 ○東羅翔太郎・江口浩二（神戸大）  IBISML2010-118 |
|
| 抄録 | （和） | 近年，確率的トピックモデルがテキストデータをはじめとした多様なデータに適用され，有効性が示されている．トピックモデルの代表的なものに潜在的ディリクレ配分法（Latent Dirichlet Allocation: LDA）があげられる．LDAのパラメータ推定には変分ベイズ法やギブスサンプリング法などが用いられるが，大規模データに対して計算コストが要求されるため，効率化が望まれている．本稿では，LDAのためのギブスサンプリング法の効率化のため，並列計算技術を用いる．計算環境として，近年広く普及している分散・共有メモリ型（SMPクラスタ型）を想定する．従来のLDAのための並列推定手法はMPIまたはOpenMPがそれぞれ単独で用いられてきた．それに対してSMPクラスタ型並列計算機では，SMPノード間通信にメッセージパッシングを，SMPノード内並列化にループディレクティブを用いるハイブリッド並列プログラミングモデルが適している．そこで本稿では，LDAのためのMPI/OpenMPハイブリッド型並列推定手法を開発し，SMPクラスタ型計算機において高速化を実現した． |
| （英） | In recent years, probabilistic topic models have been applied to various kinds of data including text data, and its effectiveness has been demonstrated. Latent Dirichlet Allocation (LDA) is one of the well-known topic models. Variational Bayesian inference or Collapsed Gibbs sampling is often employed to estimate parameters in LDA; however, these inference methods require high computational cost for large-scale data. Therefore, high efficiency technology is needed for this purpose. In this paper, we make use of parallel computation technology for the sake of efficient Collapsed Gibbs sampling inference for LDA. We assume to use a shared memory cluster (SMP cluster), which is widely used in recent years. In prior work of efficient inference for LDA, MPI or OpenMP has been used alone. On the other hand, for a SMP cluster it is more suitable to adopt hybrid parallel programming models which use message passing for communication between SMP nodes and loop directives for parallelization within each SMP node. In this paper, we developed a MPI/OpenMP hybrid parallel inference method for LDA, and achieved remarkable speed-up under various settings of a SMP cluster. | |
| キーワード | （和） | トピックモデル / 潜在的ディリクレ配分法 / ギブスサンプリング / 並列計算 / / / / |
| （英） | Topic models / Latent Dirichlet Allocation / Gibbs sampling / / / / / | |
| 文献情報 | 信学技報, vol. 110, no. 476, IBISML2010-118, pp. 101-108, 2011年3月. | |
| 資料番号 | IBISML2010-118 | |
| 発行日 | 2011-03-21 (IBISML) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IBISML2010-118 |
|
| 研究会情報 | |
| 研究会 | IBISML |
| 開催期間 | 2011-03-28 - 2011-03-29 |
| 開催地（和） | 阪大中之島センター |
| 開催地（英） | Nakanoshima Center, Osaka Univ. |
| テーマ（和） | テキスト・Ｗｅｂマイニング、一般 |
| テーマ（英） | Text and Web mining, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2011-03-IBISML |
| 本文の言語 | 日本語 |
| タイトル（和） | MPI/OpenMPハイブリッド並列化による潜在的ディリクレ配分法の効率的推定 |
| サブタイトル（和） | |
| タイトル（英） | MPI/OpenMP Hybrid Parallel Inference for Latent Dirichlet Allocation |
| サブタイトル（英） | |
| キーワード(1)（和/英） | トピックモデル / Topic models |
| キーワード(2)（和/英） | 潜在的ディリクレ配分法 / Latent Dirichlet Allocation |
| キーワード(3)（和/英） | ギブスサンプリング / Gibbs sampling |
| キーワード(4)（和/英） | 並列計算 / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 東羅 翔太郎 / Shotaro Tora / トウラ ショウタロウ |
| 第1著者 所属（和/英） | 神戸大学 (略称： 神戸大) Kobe University (略称： Kobe Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 江口 浩二 / Koji Eguchi / エグチ コウジ |
| 第2著者 所属（和/英） | 神戸大学 (略称： 神戸大) Kobe University (略称： Kobe Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2011-03-28 11:30:00 |
| 発表時間 | 20分 |
| 申込先研究会 | IBISML |
| 資料番号 | IBISML2010-118 |
| 巻番号（vol） | vol.110 |
| 号番号（no） | no.476 |
| ページ範囲 | pp.101-108 |
| ページ数 | 8 |
| 発行日 | 2011-03-21 (IBISML) |
[研究会発表申込システムのトップページに戻る]