講演抄録/キーワード |
講演名 |
2014-11-17 17:00
[ポスター講演]二次正則化分類学習のためのLeave-one-out cross-validationの高速化 ○奥村翔太・鈴木良規・小川晃平・新村祐紀・竹内一郎(名工大) IBISML2014-44 |
抄録 |
(和) |
Leave-one-out cross-validation (LOOCV)
は様々な機械学習アルゴリズムの汎化性能の推定に有用である.
しかしながら,
特殊な場合を除いては,
学習(最適化)を何度も繰り返さなければならないため計算コストが膨大となってしまう.
本研究では,
2次の正則化項を持つ2クラス分類アルゴリズムにおいて高速にLOOCVの計算を行う方法を提案する.
提案法を用いると,
個々のインスタンスを取り除いた後に再学習を行うことなく,
取り除いたインスタンスの正誤判定が可能となる場合がある.
提案法は既存のアプローチよりも適用範囲が広いことに加え,
最適化の停止基準としても利用することもできるという利点を持つ.
本稿では数値実験により提案法の有効性を検証する. |
(英) |
Leave-one-out cross-validation (LOOCV) is a useful tool
for estimating generalization performances of
various machine learning algorithms.
However,
except for some special cases,
computing LOOCV error is quite time-consuming
because we must train as many models as the number of instances.
In this study,
we propose an efficient method
for LOOCV of $L_2$-regularized convex binary classification algorithms.
The proposed method allows us to make decisions on whether the left-out instance is correctly classified or not
before actually solving the optimization problem.
The proposed approach can be applicable to wider class of problems than existing approaches
and it can also be used as a stopping criterion in the optimization process.
We illustrate the advantage of the proposed method based on numerical experiments. |
キーワード |
(和) |
交差検証法 / 凸最適化 / モデル選択 / サポートベクトルマシン / / / / |
(英) |
cross-validation / convex optimization / model selection / support vector machine / / / / |
文献情報 |
信学技報, vol. 114, no. 306, IBISML2014-44, pp. 73-80, 2014年11月. |
資料番号 |
IBISML2014-44 |
発行日 |
2014-11-10 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2014-44 |