| 講演抄録/キーワード |
| 講演名 |
2016-11-17 14:00
全状態探索による線形回帰のスパース変数選択 ○五十嵐康彦・竹中 光・中西 (大野)義典(東大)・植村 誠(広島大)・池田思朗(統計数理研)・岡田真人(東大) IBISML2016-90 |
| 抄録 |
(和) |
本研究では線形回帰におけるスパース変数選択を行うため,
最適な説明変数の組合せが$K$-スパースであると仮定し,
その説明変数の組合せについて網羅的に探索する
$K$-スパース全状態探索(ES-$K$)法を行う.
そして,ES-$K$法で得られた状態密度に対して,
スパース変数選択の近似手法で得られた解を
マッピングすることにより,
これまで行われてきたスパース変数選択の
緩和アプローチとサンプリングアプローチを
統合することが可能であり,すべての近似的手法を評価できる.
また,我々は説明変数の組合せ爆発に対しては,
交換モンテカルロ法とマルチヒストグラム法を用いて状態密度を効率的に再構成した.
さらに,提案手法を,Ia型超新星の極大等級データに適用した結果,
先行研究で得られた説明変数の組み合わせより,
性能の高い組み合わせが存在することが分かった.
これは先行研究で用いられた
スパース変数選択の緩和アプローチが不完全であることを意味する. |
| (英) |
We proposed the $K$-sparse
Exhaustive-Search (ES-$K$) method,
in which, assuming the optimum combination of
explanatory variables is $K$-sparse,
we exhaustively search the $K$-sparse combinations for sparse variable selection in linear regression.
We then obtain the density of states and can map to it solutions obtained by various approximate methods of sparse variable selection.
This method enables us to integrate the previous sparse variable selection methods
such as relaxation approach and sampling approach,
and evaluate all the approximate methods.
In addition, for the problem of combinatorial explosion of the explanatory variables,
we effectively reconstructed the density of states
by using the exchange Monte Carlo method and multi-histogram method.
Finally, we applied the ES-$K$ method to the type Ia supernova data.
As a result, there is a combination of explanatory variables
with higher performance than that of previous approximate sparse variable selection methods.
This result means that relaxation approach for sparse variable selection used in previous studies
is incomplete. |
| キーワード |
(和) |
$K$-スパース全状態探索法, / BIC / CVE / LASSO / 交換モンテカルロ法 / / / |
| (英) |
$K$-sparse Exhaustive-Search (ES-$K$) method / BIC / CVE / LASSO / exchange Monte Carlo method / / / |
| 文献情報 |
信学技報, vol. 116, no. 300, IBISML2016-90, pp. 313-320, 2016年11月. |
| 資料番号 |
IBISML2016-90 |
| 発行日 |
2016-11-09 (IBISML) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IBISML2016-90 |
| 研究会情報 |
| 研究会 |
IBISML |
| 開催期間 |
2016-11-16 - 2016-11-18 |
| 開催地(和) |
京都大学 |
| 開催地(英) |
Kyoto Univ. |
| テーマ(和) |
情報論的学習理論ワークショップ(IBIS2016) |
| テーマ(英) |
Information-Based Induction Science Workshop (IBIS2016) |
| 講演論文情報の詳細 |
| 申込み研究会 |
IBISML |
| 会議コード |
2016-11-IBISML |
| 本文の言語 |
日本語 |
| タイトル(和) |
全状態探索による線形回帰のスパース変数選択 |
| サブタイトル(和) |
|
| タイトル(英) |
Exhaustive search for sparse variable selection in linear regression |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
$K$-スパース全状態探索法, / $K$-sparse Exhaustive-Search (ES-$K$) method |
| キーワード(2)(和/英) |
BIC / BIC |
| キーワード(3)(和/英) |
CVE / CVE |
| キーワード(4)(和/英) |
LASSO / LASSO |
| キーワード(5)(和/英) |
交換モンテカルロ法 / exchange Monte Carlo method |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
五十嵐 康彦 / Yasuhiko Igarashi / イガラシ ヤスヒコ |
| 第1著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: UTokyo) |
| 第2著者 氏名(和/英/ヨミ) |
竹中 光 / Hikaru Takenaka / タケナカ ヒカル |
| 第2著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: UTokyo) |
| 第3著者 氏名(和/英/ヨミ) |
中西 (大野)義典 / Nakanishi-Ohno Yoshinori / ナカニシ (オオノ)ヨシノリ |
| 第3著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: UTokyo) |
| 第4著者 氏名(和/英/ヨミ) |
植村 誠 / Makoto Uemura / ウエムラ マコト |
| 第4著者 所属(和/英) |
広島大学 (略称: 広島大)
Hiroshima University (略称: Hiroshima Univ.) |
| 第5著者 氏名(和/英/ヨミ) |
池田 思朗 / Shiro Ikeda / イケダ シロウ |
| 第5著者 所属(和/英) |
統計数理研究所 (略称: 統計数理研)
The Institute of Statistical Mathematics (略称: ISM) |
| 第6著者 氏名(和/英/ヨミ) |
岡田 真人 / Masato Okada / オカダ マサト |
| 第6著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: UTokyo) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2016-11-17 14:00:00 |
| 発表時間 |
180分 |
| 申込先研究会 |
IBISML |
| 資料番号 |
IBISML2016-90 |
| 巻番号(vol) |
vol.116 |
| 号番号(no) |
no.300 |
| ページ範囲 |
pp.313-320 |
| ページ数 |
8 |
| 発行日 |
2016-11-09 (IBISML) |