| 講演抄録/キーワード |
| 講演名 |
2011-11-10 15:45
混合分布のノンパラメトリック推定と最小ダイバージェンス法 ○渡辺一帆(奈良先端大)・池田思朗(統計数理研) IBISML2011-78 |
| 抄録 |
(和) |
最尤推定による混合分布のノンパラメトリック推定では,最適な重み分布がサンプル数以下の有限個の点からなる離散分布で与えられることが知られているものの,サンプル数が少ない状況では過学習が起こる傾向がある.本研究では,一つのパラメータを持つ目的関数を構成することで,最尤推定やカーネルベクトル量子化を特別な場合として含む一連の推定手法を与え,経験尤度法や情報量最小化との関係を考察する.また,数値実験により,パラメータの設定によっては過学習を抑制する効果が得られることを示す. |
| (英) |
We discuss a nonparametric estimation method of the mixing distribution in mixture models.
We propose an objective function with one parameter,
where the minimization corresponds to the maximum likelihood estimation and the kernel vector quantization in special cases.
Generalizing the theorem for the nonparametric maximum likelihood estimation, we prove the existence and discreteness of the optimal mixing distribution
and provide an algorithm to calculate it.
It is demonstrated that with an appropriate choice of the parameter, the proposed method is less prone to overfitting than the maximum likelihood method. |
| キーワード |
(和) |
混合分布 / ノンパラメトリック推定 / 最小ダイバージェンス法 / 平均汎化誤差 / / / / |
| (英) |
mixture model / nonparametric estimation / minimum divergence method / average generalization error / / / / |
| 文献情報 |
信学技報, vol. 111, no. 275, IBISML2011-78, pp. 243-249, 2011年11月. |
| 資料番号 |
IBISML2011-78 |
| 発行日 |
2011-11-02 (IBISML) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IBISML2011-78 |