| 講演抄録/キーワード |
| 講演名 |
2020-03-17 09:30
深層学習のハイパパラメータ最適化におけるNelder-Mead法の初期値評価 ○竹長慎太朗(近畿大)・渡邊修平・野村将寛・尾崎嘉彦・大西正輝(産総研)・波部 斉(近畿大) PRMU2019-90 |
| 抄録 |
(和) |
深層学習においてハイパパラメータは精度向上に大きな影響を与え,Nelder-Mead法は深層学習のハイパパラメータ最適化手法において高い探索性能を持つことが知られている.
一般的には,Nelder-Mead法の初期シンプレックスはランダムに決定されることが多いが,探索性能は初期シンプレックスの形状に依存するため適切な初期シンプレックスを決める必要がある.
これまで,Pfeffer, Nash, Han, Varadhanらは探索空間内に,シンプレックスを生成するための一つの開始点を決め,そこから初期シンプレックスを生成する手法を提案している.
本研究では,これらの初期シンプレックスの生成手法が深層学習の精度向上にどのように貢献するかを明らかにする. |
| (英) |
(Not available yet) |
| キーワード |
(和) |
深層学習 / ハイパパラメータ最適化 / Nelder-Mead法 / / / / / |
| (英) |
/ / / / / / / |
| 文献情報 |
信学技報, vol. 119, no. 481, PRMU2019-90, pp. 127-132, 2020年3月. |
| 資料番号 |
PRMU2019-90 |
| 発行日 |
2020-03-09 (PRMU) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
PRMU2019-90 |