講演抄録/キーワード |
講演名 |
2015-06-25 10:20
e-バギング:情報幾何的に双対なバギングの提案とその応用 ~ k-近傍交叉カーネルを用いたNadaraya-Watson回帰への適用 ~ ○濱田直希・樋口博之・本間克己(富士通研) IBISML2015-23 |
抄録 |
(和) |
著者らが近年提案した$k$-近傍交叉カーネルは,可変行列バンド幅に相当する大自由度のカーネルである.その柔軟性から従来のカーネルを上回る推定精度を有するが,その応用はリサンプリングなどのカーネル関数値を陽に計算する必要がないタスクに限られており,回帰などのカーネル関数値を必要とするタスクでは計算困難に陥る.これは,本手法が用いるバギングによって,カーネル関数が膨大な多変量ガウス密度の算術平均,すなわち大規模な混合ガウス密度として表されるためである.本報告では,バギングの効果を享受しつつ計算量を削減するために,$e$-平均を用いたバギング($e$-バギング)を提案する.情報幾何の視点から,$e$-バギングと従来のバギングの双対性を議論する.$e$-バギングをk-近傍交叉カーネルを用いたNadaraya-Watson回帰に適用し,その有効性を示す. |
(英) |
The $k$-nearest neighbor crossover kernel, which we proposed recently, is a very flexible kernel that is virtually equivalent to using variable matrix bandwidths. Its large degree of freedom carries, one hand, higher prediction accuracy than conventional kernels and, on the other hand, intractable computation cost for kernel function values. Therefore, its application is limited to the tasks such as re-sampling that can be accomplished without computing kernel function values, excluding the tasks such as regression that requires kernel function values. The computation cost mainly comes from the bagging used in this kernel that expresses the kernel function by the arithmetic mean of enormous multivariate Gaussian densities, i.e., a huge Gaussian mixture. In order to reduce the computation cost while still enjoying the bagging effect, this report proposes $e$-bagging that aggregates densities by $e$-mean. We also discuss the duality between the $e$-bagging and the arithmetic bagging from the information geometric standpoint. We show the effectiveness of the $e$-bagging by applying it to the Nadaraya-Watson regression with the $k$-nearest neighbor crossover kernel. |
キーワード |
(和) |
バギング / $e$-平均 / 情報幾何 / 交叉カーネル / Nadaraya-Watson回帰 / / / |
(英) |
bagging / $e$-mean / information geometry / crossover kernel / Nadaraya-Watson regression / / / |
文献情報 |
信学技報, vol. 115, no. 112, IBISML2015-23, pp. 187-194, 2015年6月. |
資料番号 |
IBISML2015-23 |
発行日 |
2015-06-16 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2015-23 |