講演抄録/キーワード |
講演名 |
2012-11-08 15:00
変分ベイズ主成分分析の次元推定性能保証について ○中島伸一(ニコン)・冨岡亮太(東大)・杉山 将(東工大)・デリン ババカン(イリノイ大) IBISML2012-66 |
抄録 |
(和) |
ベイズ推定の効率的近似手法である変分ベイズ法は,
多くの応用において高い性能を示している.
しかし,その性能は理論的に解明されているとは言いがたい.
例えば,変分ベイズ法によって得られるスパースな解は実用上有用であるが,
そのようなスパース性は厳密なベイズ推定において必ずしも観測されない.
本稿では確率的主成分分析に焦点をあて,
変分ベイズ法の有用性に関する理論的解析を行う.
具体的に述べると,ノイズ分散が未知な状況で変分ベイズ主成分分析を適用したとき,
真のランクと変分ベイズ推定量とのランクが一致するための十分条件を,
ランダム行列理論に基づいて導出する.
解析の過程で導出される
ノイズ分散推定量のバウンドと,
以前に導出されたものよりもはるかにシンプルな大域解の表現は,
変分ベイズ主成分分析の容易な実装を可能にする. |
(英) |
The variational Bayesian (VB) approach is
one of the best tractable approximations to the Bayesian estimation,
and it was demonstrated to perform well in many applications.
However, its good performance was not fully understood theoretically.
For example, VB sometimes produces a sparse solution,
which is regarded as a practical advantage of VB,
but such sparsity is hardly observed in the rigorous Bayesian estimation.
In this paper, we focus on probabilistic PCA and
give more theoretical insight into the empirical success of VB.
More specifically, for the situation where the noise variance is unknown,
we derive a sufficient condition for perfect recovery of the true PCA
dimensionality
in the large-scale limit
when the size of an observed matrix
goes to infinity with its column-row ratio fixed.
In our analysis, we obtain bounds for a noise variance estimator
and simple closed-form solutions for other parameters,
which themselves are actually very useful for better implementation of VB-PCA. |
キーワード |
(和) |
行列分解 / 変分ベイズ / スパース性 / 次元完全復元 / / / / |
(英) |
matrix factorization / variational Bayes / sparsity / perfect dimensionality recovery / / / / |
文献情報 |
信学技報, vol. 112, no. 279, IBISML2012-66, pp. 229-236, 2012年11月. |
資料番号 |
IBISML2012-66 |
発行日 |
2012-10-31 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2012-66 |