| 講演抄録/キーワード |
| 講演名 |
2010-06-14 15:30
2次損失サポートベクトルマシンの非線形正則化パスに関する一考察 ○烏山昌幸・竹内一郎(名工大) IBISML2010-6 |
| 抄録 |
(和) |
サポートベクトルマシン(SVM)はモデルの複雑さを調節する正則化パラメータを持つが,最適な正則化パラメータを設定するには様々な値に対して学習を行い,汎化性能を比較する必要がある.
正則化パスアルゴリズムはSVMの解が正則化パラメータに対して区分線形に変化する性質を利用して,正則化パラメータを変化させた時に効率よく解の変化を追跡する.しかし,SVMにおいて2次の損失関数を用いた場合には区分線形性が失われ,従来の正則化パスアルゴリズムを適用することはできない.
本稿では,2次損失SVMの解の軌跡が有理関数と呼ばれる形の非線形関数で表わされることを利用して,精度と効率に優れた変化点検出アルゴリズムを提案し,
非線形パス追跡が可能であることを示す. |
| (英) |
Regularization path algorithm has been proposed for model selection
problem of Support Vector Machine (SVM).
The algorithm explores the entire path of solutions w.r.t. the
regularization parameter by exploiting piecewise linearity of the
solutions.
However, if we use a quadratic loss function in the SVM,
the solutions are no longer piecewise linear w.r.t. the regularization
parameter.
In this paper, we propose nonlinear regularization path for the SVM
with the quadratic loss functions.
We use a rational approximation approach to find an event point
which is the change point of the solution path.
We demonstrate this approach has some advantages in terms of the efficiency and the accuracy of the path following algorithm.
Experimental results show that our algorithm traces the regularization
path faster than the naive grid search approach using
state-of-the-art SVM solver. |
| キーワード |
(和) |
サポートベクトルマシン / 正則化パス / 有理近似 / / / / / |
| (英) |
Support Vector Machines / Regularization path / Rational approximation / / / / / |
| 文献情報 |
信学技報, vol. 110, no. 76, IBISML2010-6, pp. 23-31, 2010年6月. |
| 資料番号 |
IBISML2010-6 |
| 発行日 |
2010-06-07 (IBISML) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IBISML2010-6 |