| 講演抄録/キーワード |
| 講演名 |
2011-12-20 11:20
多層パーセプトロンにおける固有ベクトル降下法と直線探索 ○佐藤聖也・中野良平(中部大) NC2011-87 |
| 抄録 |
(和) |
多層パーセプトロン(MLP)の学習では、勾配のみを用いるBP法、勾配と曲率を用いるNewton法や準Newton法などが知られる。しかし、MLPの探索空間は条件数が巨大なクレバス形状に満ちており、通常の探索法では効率良く探索できない。本稿では、このような探索空間でも安定して良解を求めることができる新探索法を提案し、シグモイド型と指数型のMLPを用いた計算機実験にて有効性を検証する。 |
| (英) |
As learning methods of a multilayer perceptron (MLP), we have the BP algorithm, Newton's method, quasi-Newton method, and so on. However, since the MLP search space is full of crevasse-like forms having huge condition numbers, it is very unlikely for such usual existing methods to perform efficient search in the space. This paper proposes a new search method which utilizes eigen vector descent and line search, stably finding excellent solutions in such an extraordinary search space. The proposed method is evaluated with promising results through experiments for MLPs having sigmoidal or exponential activation functions. |
| キーワード |
(和) |
多層パーセプトロン / 多項式ネット / 特異領域 / 探索法 / 直線探索 / / / |
| (英) |
multilayer perceptron / polynomial network / singular region / search method / line search / / / |
| 文献情報 |
信学技報, vol. 111, no. 368, NC2011-87, pp. 19-24, 2011年12月. |
| 資料番号 |
NC2011-87 |
| 発行日 |
2011-12-13 (NC) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NC2011-87 |