| 講演抄録/キーワード |
| 講演名 |
2019-12-20 10:00
トピックモデルにおける解の多様性の分析方法と結果 ○内山俊郎・甫喜本 司(北海道情報大) PRMU2019-54 |
| 抄録 |
(和) |
確率的潜在意味解析及び潜在的ディリクレ配分モデルは,画像や文書などのデー
タ解析に有用なトピックモデルとして知られる.トピックモデルのパラメータ
(=解)を最適化アルゴリズムにより求める場合,アルゴリズムや初期値などの
違いにより,さまざまな解に到達する.しかし,類似解も多数存在しており,そ
れらを異なる知見として扱うのは冗長である.非冗長な解集合を見つけるため,
解同士の正規化相互情報量(NMI)を類似度(内積)として求め,多次元尺度法
を適用して解に座標値を与え,多様な解の分析や可視化を可能にする方法を提案
する.さまざまなテキストデータを用いた実験を行い,解の分布状況を可視化し
た.そして,代表的な推定手法(事後確率最大推定,崩壊型ギブスサンプリング,
崩壊型変分ベイズ推定)や初期値設定法による解の依存性を明らかにし,提案手
法の有用性を確認した.これまでの本研究会での議論を反映した内容
[1]を示し,今後の研究について議論したい. |
| (英) |
Probabilistic Latent Semantic Analysis and Latent Dirichlet analysis are
known as topic models to analyze text data and images. When parameters
(= solution) of the topic model are obtained by the optimization
algorithm, various solutions are reached due to differences in
algorithms, initial values. However, there are many similar solutions,
and it is redundant to treat them as different findings. To find
non-redundant solution sets, We propose a method to calculate
normalized mutual information (NMI) as similarity (inner product)
between solutions, apply multidimensional scale method to coordinate
values to them, and enable analysis and visualization.
Distribution situation of solutions was visualized by experiment using various text data. We also clarified the dependence of representative
algorithms (maximum a posterior estimation, collapsed Gibbs sampling,
collapsed variational Bayesian inference) and initial
values, and confirmed the usefulness of the proposed method. |
| キーワード |
(和) |
トピックモデル / 解の多様性 / 正規化相互情報量 / 多次元尺度法 / / / / |
| (英) |
topic model / diversity of solutions / Normalized Mutual Information / Multidimensional scaling / / / / |
| 文献情報 |
信学技報, vol. 119, no. 347, PRMU2019-54, pp. 49-54, 2019年12月. |
| 資料番号 |
PRMU2019-54 |
| 発行日 |
2019-12-12 (PRMU) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
PRMU2019-54 |