| 講演抄録／キーワード |
| 講演名 |
2006-03-16 13:50
アンサンブル学習の統合機構と相互学習
○原 一之（都立高専）・岡田真人（東大/理研/JST） |
| 抄録 |
（和） |
以前我々はオンライン学習の枠組みで，2個の学習機械が互いに相手を教師とみなし
て学習を行う相互学習において，予め教師あり学習を行った生徒を用いた場合
の学習のダイナミクスを記述するオーダパラメータの従う微分方程式を統計力学
的な手法を用いて導出し，数値計算に基づいて解析した．
今回はオーダパラメータの従う微分方程式の解析解を求め，さらに詳細な解析
をおこなった．その結果，相互学習は漸近的にバギングに収束すること，および
生徒の初期の相関が一様でない場合，ステップサイズが0の極限では相互学習は
パラレルブースティングに一致した後，バギングに収束することを証明した． |
| （英） |
In the previous report, we derived differential equations of the order
parameter of mutual learning using students previously learned a teacher
by statistical mechanics method and analyzed the system with numerical methods.
In mutual learning, two students learn each other.
In this report, we solved differential equations of the order
parameters, and we analyzed more specific behavior of mutual learning.
As a results, we proved mutual learning converges into Bagging asymptotically.
We also proved that in homogenous correlation of initial weight vector
case, mutual learning agrees with parallel boosting before converges into Bagging. |
| キーワード |
（和） |
解析解 / 相互学習 / 在的な教師 / 線形パーセプトロン / オンライン学習 / 汎化誤差 / 統計力学 / |
| （英） |
Analytical Solution / Mutual learning / Latent teache / Linear perceptron / On-line learning / Generalization error / tatistical mechanics / |
| 文献情報 |
信学技報, vol. 105, no. 658, NC2005-144, pp. 115-120, 2006年3月. |
| 資料番号 |
NC2005-144 |
| 発行日 |
2006-03-09 (NC) |
| ISSN |
Print edition: ISSN 0913-5685 |
| PDFダウンロード |
|