| 講演抄録/キーワード |
| 講演名 |
2015-06-23 14:15
セーフスクリーニングを用いた組み合わせ効果を持つスパースモデルの効率的学習 ○中川和也・鈴村真矢・烏山昌幸・竹内一郎(名工大) IBISML2015-10 |
| 抄録 |
(和) |
多くの機械学習のタスクにおいて, 各特徴間の相互作用効果を考慮することが重要であると考えられる.
しかし全ての相互作用を考えることは, 組み合わせ総数の指数的増加を引き起こしてしまうため取り扱いが困難である.
本論文では, 高次相互作用モデルをLASSO により学習することでスパースなモデルを得ることを考える.
LASSO による学習では, そのようなスパース性を持つため学習前に不要な特徴を同定することが重要となる.
近年提案されたsafe-screening と呼ばれる手法を用いることでそのような特徴を事前に同定することができるが, 高次相互作用モデルにおいてはすべての相互作用に対してscreening rule を適用する必要があるため容易ではない.
そこで本論文では, すべての相互作用を木構造として捉え, 木の探索によってsafe screening を行う際のsafe pruning rule を提案する.
そして既存手法との計算時間の比較を行うことで, 提案法の有用性を示す. |
| (英) |
In a variety of machine learning tasks, it has been desired to incorporate high-order interaction effects of multiple covariates. However, for recent applications with a large number covariates, it is highly challenging to identify important high-order interaction features since the number of possible candidates would be extremely large.
In this paper, we propose an efficient algorithm for LASSO-based sparse learning of such high-order interaction models.
The basic strategy is to use a recently introduced safe feature screening technique by which a subset of non-active features can be identified and they can be screened-out prior to LASSO training.
However, applying safe feature screening to each of the extremely large number of high-order interaction features would be computationally infeasible.
Our key idea for solving this computational issue is to exploit the underlying tree structure among high-order interaction features.
Specifically, we introduce a set of pruning conditions of the tree such that, if one of the conditions is satised in a certain node, then all the high-order interaction features corresponding to its descendant nodes can be guaranteed to be non-active at the optimal solution, and they can be screened-out prior to LASSO training. |
| キーワード |
(和) |
高次相互作用モデル / LASSO / スパース学習 / セーフスクリーニング / / / / |
| (英) |
high-order interaction model / LASSO / sparse learning / safe-screening / / / / |
| 文献情報 |
信学技報, vol. 115, no. 112, IBISML2015-10, pp. 63-68, 2015年6月. |
| 資料番号 |
IBISML2015-10 |
| 発行日 |
2015-06-16 (IBISML) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IBISML2015-10 |
| 研究会情報 |
| 研究会 |
NC IPSJ-BIO IBISML IPSJ-MPS |
| 開催期間 |
2015-06-23 - 2015-06-25 |
| 開催地(和) |
沖縄科学技術大学院大学 |
| 開催地(英) |
Okinawa Institute of Science and Technology |
| テーマ(和) |
機械学習によるバイオデータマインニング、一般 |
| テーマ(英) |
Machine Learning Approach to Biodata Mining, and General |
| 講演論文情報の詳細 |
| 申込み研究会 |
IBISML |
| 会議コード |
2015-06-NC-BIO-IBISML-MPS |
| 本文の言語 |
日本語 |
| タイトル(和) |
セーフスクリーニングを用いた組み合わせ効果を持つスパースモデルの効率的学習 |
| サブタイトル(和) |
|
| タイトル(英) |
Efficient sparse learning for combinatorial model by using safe screening approach |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
高次相互作用モデル / high-order interaction model |
| キーワード(2)(和/英) |
LASSO / LASSO |
| キーワード(3)(和/英) |
スパース学習 / sparse learning |
| キーワード(4)(和/英) |
セーフスクリーニング / safe-screening |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
中川 和也 / Kazuya Nakagawa / ナカガワ カズヤ |
| 第1著者 所属(和/英) |
名古屋工業大学 (略称: 名工大)
Nagoya Institute of Technology (略称: NIT) |
| 第2著者 氏名(和/英/ヨミ) |
鈴村 真矢 / Shinya Suzumura / スズムラ シンヤ |
| 第2著者 所属(和/英) |
名古屋工業大学 (略称: 名工大)
Nagoya Institute of Technology (略称: NIT) |
| 第3著者 氏名(和/英/ヨミ) |
烏山 昌幸 / Masayuki Karasuyama / カラスヤマ マサユキ |
| 第3著者 所属(和/英) |
名古屋工業大学 (略称: 名工大)
Nagoya Institute of Technology (略称: NIT) |
| 第4著者 氏名(和/英/ヨミ) |
竹内 一郎 / Ichiro Takeuchi / タケウチ イチロウ |
| 第4著者 所属(和/英) |
名古屋工業大学 (略称: 名工大)
Nagoya Institute of Technology (略称: NIT) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2015-06-23 14:15:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
IBISML |
| 資料番号 |
IBISML2015-10 |
| 巻番号(vol) |
vol.115 |
| 号番号(no) |
no.112 |
| ページ範囲 |
pp.63-68 |
| ページ数 |
6 |
| 発行日 |
2015-06-16 (IBISML) |
|