講演抄録/キーワード |
講演名 |
2018-11-05 15:10
[ポスター講演]混合ロジスティック回帰の局所変分近似による推定と変分自由エネルギーの考察 ○中村文士・小西亮介(ゼネリックソリューション)・清木 康(慶大) IBISML2018-48 |
抄録 |
(和) |
混合ロジスティック回帰は、ロジスティック回帰が混合したモデルであり、表現力の高いモデルであり、心理学や社会学、マーケティングなどで用いられている。
従来法では、EMアルゴリズムがその推定にしばしば用いられてきた。
しかしながら、EMアルゴリズムは局所最尤推定量を求める手法であり、混合分布に対する推定がベイズ的な推定手法に比べ精度が悪くなることが知られている。
本論文ではベイズ的な推定手法の1つである局所変分近似により混合ロジスティック回帰を推定する方法を提案し、EMアルゴリズムに比べ精度良く推定できることを実験的に示す。また、その精度評価指標の1つである変分自由エネルギーの漸近挙動について考察を行う。 |
(英) |
A logistic regression mixture model (LRMM) is a mixed model of the Logistic regression model, and it is widely used in the field of psychology, sociology and marketing due to its high performance. In a conventional method, the Expectation Maximization (EM) algorithm has been often used to estimate the model.
However, the EM algorithm searches the local maximum likelihood estimator, and it is known that the maximum likelihood estimator gives worse performance than the Bayesian approach.
In this paper, we propose an algorithm to estimate the LRMM by a Local Variational Approximation (LVA), which is one of the Bayesian approach. Numerical experiments show that the LVA achieves the higher performance than the EM algorithm. Furthermore, we discuss the asymptotic behavior of a variational free energy, which is one of an evaluation index for the LVA. |
キーワード |
(和) |
混合ロジスティック回帰 / 局所変分近似 / 変分自由エネルギー / ベイズ推定 / EMアルゴリズム / / / |
(英) |
Logistic Regression Mixture Model / Local Variational Approximation / Variational Free Energy / Bayesian inference / EM algorithm / / / |
文献情報 |
信学技報, vol. 118, no. 284, IBISML2018-48, pp. 29-36, 2018年11月. |
資料番号 |
IBISML2018-48 |
発行日 |
2018-10-29 (IBISML) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2018-48 |