| 講演抄録/キーワード |
| 講演名 |
2011-03-08 11:05
RBFネットワークのベイズ推測における特異点近傍での汎化誤差について ○幸島匡宏・渡辺澄夫(東工大) NC2010-168 |
| 抄録 |
(和) |
神経回路網のように階層的な構造を持つ学習システムでは、パラメータと確率分布が一対一に対応せず、フィッシャー情報行列が正則でないために、統計的正則モデルの漸近理論が成り立たない。近年の学習理論の発展により、真の分布が学習モデルの特異点であるか、あるいは特異点から十分に離れている場合には、汎化誤差の挙動が理論的に解明されているが、真の分布が特異点の近傍にある場合に、特異点からどのような影響を受けるかについては、入力の次元に応じて挙動が変化することが知られている。本論文では、特異モデルの代表的な例であるRBFネットワークについて、特異点の近傍での学習がどのような性質を持つかを実験的に解析し、入力が一次元の時に次の現象が起こることを明かにする。(1) 真の分布が特異点から離れるに従って少しずつ汎化誤差は大きくなる。(2) 真の分布が特異点からさらに離れると汎化誤差は小さくなる。 |
| (英) |
In a learning system which has hierarchical structure, neither the map from the parameter to the probability distribution is one-to-one, nor Fisher information matrix is positive definite, resulting that the asymptotic theory of regular statistical models does not hold. In such a system, if the true distribution is a singularity of the model, or if it is sufficiently far from the singularity, then its behavior was theoretically clarified. However, if the true distribution is in the neighborhood of a singularity, then its behavior depends on the dimension of the input data. In this paper, we study an RBF network for one dimensional inputs and experimentally clarified the followings. (1) If the distance of the true distribution and singularity is made longer from zero, then the generalization error becomes larger. (2) If the distance is made longer the first case, then the generalization error becomes smaller. |
| キーワード |
(和) |
特異モデル / RBFネットワーク / 特異点近傍 / / / / / |
| (英) |
singular model / RBF network / neighborhoods of singularities / / / / / |
| 文献情報 |
信学技報, vol. 110, no. 461, NC2010-168, pp. 241-246, 2011年3月. |
| 資料番号 |
NC2010-168 |
| 発行日 |
2011-02-28 (NC) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NC2010-168 |