| 講演抄録／キーワード |
| 講演名 |
2007-03-14 10:10
不偏尤度に基づく階層モデルの統計的学習
○関野正志・新田克己（東工大） |
| 抄録 |
（和） |
カーネル回帰モデル，ニューラルネットワーク，混合分布モデルといった階層モデルに，最尤推定，事後確率最大化推定，ベイズ推定といった統計的学習手法を適用すると過学習が生じることが知られている．本稿では，正則モデルの集合として定義できる階層モデルについて，従来の統計的学習手法により過学習が生じる原因を明らかにし，不偏尤度（情報量規準）に基づいて学習する不偏学習を提案する．カーネル回帰モデルの正則化最尤推定への適用例により不偏学習の有効性を示す． |
| （英） |
It is known that overfitting occurs when a conventional statistical learning method such as maximum likelihood estimation, maximum a posteriori estimation or Bayesian estimation is applied to hierarchical models. In this paper, we clarify the cause of why overfitting occurs when a conventional statistical learning method is applied to hierarchical models, and propose “Unbiased Learning” which is a learning framework based on unbiased likelihood (information criterion) for hierarchical models. We confirm the effectiveness of unbiased learning when applied to kernel regression model. |
| キーワード |
（和） |
階層モデル / 統計的学習 / 情報量基準 / モデル選択 / 過学習 / / / |
| （英） |
hierarchical model / statistical learning / information criterion / model selection / overfitting / / / |
| 文献情報 |
信学技報, vol. 106, no. 588, NC2006-136, pp. 109-114, 2007年3月. |
| 資料番号 |
NC2006-136 |
| 発行日 |
2007-03-07 (NC) |
| ISSN |
Print edition: ISSN 0913-5685 |
| PDFダウンロード |
|