| 講演抄録/キーワード |
| 講演名 |
2011-11-09 15:45
変分ベイズ学習の局所解の構造について ○中村文士・渡辺澄夫(東工大) IBISML2011-43 |
| 抄録 |
(和) |
変分ベイズ法は、ベイズ法に近い汎化能力を比較的少ない演算によって達成することができるため、多く
の学習システムに応用されている。しかしながら、再帰的な代入を用いたアルゴリズムであるため、初期値によって
最終的に到達する点が異なるという性質を持っている。本論文では、変分ベイズ法の不動点が満たす性質を理論的に
明らかにし、理論的に予言される不動点が実在することを2個の正規分布の混合によって作られる学習モデルを用い
た実験で明らかにする。局所解の個数は、真の分布やハイパーパラメータに依存して変化することが明らかになった。 |
| (英) |
Variational Bayes learning has good generalization performance as Bayes learning by relatively small
computational costs, hence it is applied to many information systems. However, because it employs a recursive
formula, it has local minima structure. It has been left unknown what kinds of locan minima exist. In this paper,
we theoretically prove that the xed points of the variational Bayes learning should satisfy a constraint condition,
and experimentally show that such xed points exist as local mimima. The number of local minima depend on the
hyperparameter and the true distribution. |
| キーワード |
(和) |
変分ベイズ法 / 不動点 / 局所解 / / / / / |
| (英) |
Variational Bayes learning / fixed point / local minimum / / / / / |
| 文献情報 |
信学技報, vol. 111, no. 275, IBISML2011-43, pp. 5-10, 2011年11月. |
| 資料番号 |
IBISML2011-43 |
| 発行日 |
2011-11-02 (IBISML) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IBISML2011-43 |