| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2011-03-08 10:40 変分ベイズ学習において情報源の構造がクロスヴァリデーションに与える影響について ○大山慎史・渡辺澄夫（東工大）  NC2010-167 |
|
| 抄録 | （和） | 変分ベイズ法はEM法と同等の少ない演算量でベイズ法に近い汎化性能を実現できる学習法であり，統計的学習における有用性が広く知られている．一般に統計的学習では，汎化誤差の平均値はクロスヴァリデーションを用いて不偏推定することが出来るが，汎化誤差とクロスヴァリデーションは確率変数としては一致しない．本論文では混合正規分布における変分ベイズ法においてクロスヴァリデーションと汎化誤差の分散に関して次のことを実験的に明らかにする．クロスヴァリデーションの分散は，情報源の構造・学習モデルの正則性・ハイパーパラメータの値に依存し，特に真の情報源に含まれる異なるコンポーネントの重なりが大きい場合にクロスヴァリデーションの分散は汎化誤差の分散よりも大きくなり，汎化誤差の推定値として不安定なものになる． |
| （英） | The variational Bayes learning provides high generalization performance as the Bayes learning using a small computational cost as the EM algorithm, therefore, its usefulness has been widely recognized in statistical learning. In general the average of the generalization error is estimated as the average of the cross validation, however, they are not equal to each other as random variables. In this paper we apply the variational Bayes learning to the Gaussian mixture model and experimentally study the variances of the cross validation and the generalization error, showing the following result. The behavior of the variance of the cross validation depends on the structure of the information source, regularity, and the hyperparameter. Especially, with finite data, it becomes much larger and less stable than the variance of the generalization error when the information source has overlapping components which are difficult to be distinguished. | |
| キーワード | （和） | 変分ベイズ法 / クロスヴァリデーション / 混合正規分布 / ハイパーパラメータ / / / / |
| （英） | variational Bayes learning / cross validation / Gaussian mixture / hyperparameter / / / / | |
| 文献情報 | 信学技報, vol. 110, no. 461, NC2010-167, pp. 235-240, 2011年3月. | |
| 資料番号 | NC2010-167 | |
| 発行日 | 2011-02-28 (NC) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NC2010-167 |
|
| 研究会情報 | |
| 研究会 | NC MBE |
| 開催期間 | 2011-03-07 - 2011-03-09 |
| 開催地（和） | 玉川大学 |
| 開催地（英） | Tamagawa University |
| テーマ（和） | 一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | NC |
| 会議コード | 2011-03-NC-MBE |
| 本文の言語 | 日本語 |
| タイトル（和） | 変分ベイズ学習において情報源の構造がクロスヴァリデーションに与える影響について |
| サブタイトル（和） | |
| タイトル（英） | Effect of Information Source on Cross Validation in Variational Bayes Learning |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 変分ベイズ法 / variational Bayes learning |
| キーワード(2)（和/英） | クロスヴァリデーション / cross validation |
| キーワード(3)（和/英） | 混合正規分布 / Gaussian mixture |
| キーワード(4)（和/英） | ハイパーパラメータ / hyperparameter |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 大山 慎史 / Shinji Oyama / オオヤマ シンジ |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech.) |
| 第2著者 氏名（和/英/ヨミ） | 渡辺 澄夫 / Sumio Watanabe / |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech.) |
| 講演者 | 第1著者 |
| 発表日時 | 2011-03-08 10:40:00 |
| 発表時間 | 25分 |
| 申込先研究会 | NC |
| 資料番号 | NC2010-167 |
| 巻番号（vol） | vol.110 |
| 号番号（no） | no.461 |
| ページ範囲 | pp.235-240 |
| ページ数 | 6 |
| 発行日 | 2011-02-28 (NC) |
[研究会発表申込システムのトップページに戻る]