| 講演抄録/キーワード |
| 講演名 |
2011-11-09 16:20
online/batchハイブリット型準ニュートン法による階層型ニューラルネットワークのロバスト学習に関する研究 ○阿部俊和・坂下善彦・二宮 洋(湘南工科大) NLP2011-105 |
| 抄録 |
(和) |
ニューラルネットワークの学習に対して,勾配法に基づくアルゴリズムが様々提案されている.その中で,学習データの与え方に関する研究として,オンライン学習及びバッチ学習法に関する研究がある.近年,準ニュートン法に対して学習データの与え方を改良した改良型オンライン準ニュートン法が提案され,オンライン学習及びバッチ学習法よりも収束性が大幅に向上することが示された.一方,学習データの与え方をパラメータ化した新たな学習法として,パラメータ化オンライン準ニュートン法が提案された.この手法は改良型オンライン準ニュートン法における学習データの与え方を一般化し,その学習能力の有効性に関して,考察することが可能となった.本研究では,学習データの与え方に関する新たな手法を提案する.提案手法では,オンライン学習からバッチ学習への変化を,これまでの学習データの与え方により実現する手法とパラメータにより変化させる手法を結合することにより実現する.階層型ニューラルネットワークの学習に対する有効性についてコンピュータシミュレーションを用いて検証する. |
| (英) |
Various techniques based on the gradient descent method have been studied as training algorithms for neuralnetworks. Neural network training poses data-driven optimization problems in which the objective function involves thesummation of loss terms over a set of data to be modeled. For a given set of training data,the gradient-based algorithmsoperate in one of two modes: stochastic (online) or batch. Recently,the robust training algorithm based on quasi-Newtonmethod has been introduced improving the feeding-technique of training data. The algorithm combines the “stochastic(online)” mode with the “batch” one.The new learning method which online and batch error function are associable by a weighing coefficientparameter was introduced. In this paper,the neural training algorithm is which two technique are hybridized, is proposed. The proposed algorithm isverified about the validity of training for feedforward neural networksusing computer simulation . |
| キーワード |
(和) |
ニューラルネットワーク / 準ニュートン法 / オンライン学習法 / バッチ学習法 / / / / |
| (英) |
feedforword neural network / quasi-newton method / online training algorithm / batch training algorithm / / / / |
| 文献情報 |
信学技報, vol. 111, no. 276, NLP2011-105, pp. 75-80, 2011年11月. |
| 資料番号 |
NLP2011-105 |
| 発行日 |
2011-11-02 (NLP) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NLP2011-105 |
| 研究会情報 |
| 研究会 |
NLP |
| 開催期間 |
2011-11-09 - 2011-11-11 |
| 開催地(和) |
宮古島マリンターミナル2F研修室 |
| 開催地(英) |
Miyako Island Marine Terminal |
| テーマ(和) |
一般 |
| テーマ(英) |
General |
| 講演論文情報の詳細 |
| 申込み研究会 |
NLP |
| 会議コード |
2011-11-NLP |
| 本文の言語 |
日本語 |
| タイトル(和) |
online/batchハイブリット型準ニュートン法による階層型ニューラルネットワークのロバスト学習に関する研究 |
| サブタイトル(和) |
|
| タイトル(英) |
Robust Training of the Feedforward Neural Networks using hybrid quasi-Newton Training Algorithm |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
ニューラルネットワーク / feedforword neural network |
| キーワード(2)(和/英) |
準ニュートン法 / quasi-newton method |
| キーワード(3)(和/英) |
オンライン学習法 / online training algorithm |
| キーワード(4)(和/英) |
バッチ学習法 / batch training algorithm |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
阿部 俊和 / Toshikazu Abe / アベ トシカズ |
| 第1著者 所属(和/英) |
湘南工科大学 (略称: 湘南工科大)
Shonan Institute of Technology (略称: SIT) |
| 第2著者 氏名(和/英/ヨミ) |
坂下 善彦 / Yoshihiko Sakashita / サカシタ ヨシヒコ |
| 第2著者 所属(和/英) |
湘南工科大学 (略称: 湘南工科大)
Shonan Institute of Technology (略称: SIT) |
| 第3著者 氏名(和/英/ヨミ) |
二宮 洋 / Hiroshi Ninomiya / ニノミヤ ヒロシ |
| 第3著者 所属(和/英) |
湘南工科大学 (略称: 湘南工科大)
Shonan Institute of Technology (略称: SIT) |
| 第4著者 氏名(和/英/ヨミ) |
/ / |
| 第4著者 所属(和/英) |
(略称: )
(略称: ) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2011-11-09 16:20:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
NLP |
| 資料番号 |
NLP2011-105 |
| 巻番号(vol) |
vol.111 |
| 号番号(no) |
no.276 |
| ページ範囲 |
pp.75-80 |
| ページ数 |
6 |
| 発行日 |
2011-11-02 (NLP) |