講演抄録/キーワード |
講演名 |
2016-09-06 11:15
微分フリー最適化手法による識別器のハイパパラメータチューニング ○尾崎嘉彦・矢野正基(筑波大/産総研)・大西正輝(産総研)・久野誉人(筑波大) PRMU2016-84 IBISML2016-39 |
抄録 |
(和) |
機械学習手法において,識別器が性能を発揮するためには適切なハイパパラメータチューニングを行うことが極めて重要である.しかし,一般にハイパパラメータと識別器の性能との関係は未知の関数であるため,最適なハイパパラメータの探索には勾配など目的関数が持つ特徴を利用できない.本論文では,識別器のハイパパラメータチューニングに目的関数の勾配情報を利用しない微分フリー最適化手法を適用し,計算実験により有用性の検証を行った. |
(英) |
In machine learning methods, an appropriate hyper-parameter tuning is really important for classifiers to perform its best.
However, in general, the relationship between the performance of classifiers and their hyper-parameters is an unknown function.
So the features with the objective function such as gradient are not available to optimize hyper-parameters.
In this paper, we apply derivative-free optimization methods without the gradient information of the objective function in the hyper-parameter tuning of classifiers and evaluated their performance by computational experiments. |
キーワード |
(和) |
微分フリー最適化 / 機械学習 / ハイパパラメータチューニング / Coordinate-search法 / Nelder-Mead法 / サポートベクトルマシン / 畳み込みニューラルネットワーク / |
(英) |
Derivative-Free Optimization / Machine Learning / Hyper-parameter Optimization / Coordinate-Search Method / Nelder-Mead Method / Support Vector Machine / Convolutional Neural Network / |
文献情報 |
信学技報, vol. 116, no. 208, PRMU2016-84, pp. 227-232, 2016年9月. |
資料番号 |
PRMU2016-84 |
発行日 |
2016-08-29 (PRMU, IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
PRMU2016-84 IBISML2016-39 |