講演抄録/キーワード |
講演名 |
2017-03-06 14:30
劣モジュラ正則化の自由度 ○南 賢太郎・駒木文保(東大) IBISML2016-102 |
抄録 |
(和) |
本論文では,劣モジュラ関数に関係する凸正則化 (劣モジュラ正則化) について考える.近年,回帰の問題における幅広い構造的正則化のクラスが,劣モジュラ正則化の枠組みで包括的に取り扱えることが指摘されている.また,推定量の計算時には,近接勾配法のアルゴリズムが劣モジュラ最小化を通して効率的に実行できるなど,計算的な側面でもこのクラスの正則化項をまとめて考察する価値は高い.しかし,リスクの評価などの統計理論的な解析は,一般の劣モジュラ正則化に対して適用可能な形では与えられていなかった.本論文では,このクラスの正則化に対して自由度 (degrees of freedom) を導出する.自由度の不偏推定量は,推定量において相異なる値の数によって与えられ,これは lasso や fused lasso で既に知られている結果とも合致する. |
(英) |
We study two classes of convex regularization related to submodular functions, which we call the submodular regularization. In recent years, it has been pointed out by several authors that the submodular regularization can comprehensively handle a wide class of structural regularization in regression problems. From a computational perspective, estimators can be calculated by solving tractable convex minimization problems, in which the proximal gradient algorithms can be efficiently executed through submodular function minimization. However, from a statistical perspective, theoretical analysis of the mean squared error has not been investigated as an applicable form to general submodular regularizers. In this paper, we derive the degrees of freedom for submodular regularization estimators. The unbiased estimator of the degrees of freedom is given by the number of distinct values in the solution, which is consistent with existing results for the lasso and the fused lasso. |
キーワード |
(和) |
構造正則化 / スパース推定 / 結合正則化 / 劣モジュラ関数 / モデル選択 / / / |
(英) |
sparse estimation / fused regularization / submodular function / model selection / / / / |
文献情報 |
信学技報, vol. 116, no. 500, IBISML2016-102, pp. 17-24, 2017年3月. |
資料番号 |
IBISML2016-102 |
発行日 |
2017-02-27 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2016-102 |
研究会情報 |
研究会 |
IBISML |
開催期間 |
2017-03-06 - 2017-03-07 |
開催地(和) |
東京工業大学 |
開催地(英) |
Tokyo Institute of Technology |
テーマ(和) |
統計数理,機械学習,データマイニング,一般 |
テーマ(英) |
Statistical Mathematics, Machine Learning, Data Mining, etc. |
講演論文情報の詳細 |
申込み研究会 |
IBISML |
会議コード |
2017-03-IBISML |
本文の言語 |
日本語 |
タイトル(和) |
劣モジュラ正則化の自由度 |
サブタイトル(和) |
|
タイトル(英) |
Degrees of freedom in submodular regularization |
サブタイトル(英) |
|
キーワード(1)(和/英) |
構造正則化 / sparse estimation |
キーワード(2)(和/英) |
スパース推定 / fused regularization |
キーワード(3)(和/英) |
結合正則化 / submodular function |
キーワード(4)(和/英) |
劣モジュラ関数 / model selection |
キーワード(5)(和/英) |
モデル選択 / |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
南 賢太郎 / Kentaro Minami / ミナミ ケンタロウ |
第1著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: The University of Tokyo) |
第2著者 氏名(和/英/ヨミ) |
駒木 文保 / Fumiyasu Komaki / コマキ フミヤス |
第2著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: The University of Tokyo) |
第3著者 氏名(和/英/ヨミ) |
/ / |
第3著者 所属(和/英) |
(略称: )
(略称: ) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2017-03-06 14:30:00 |
発表時間 |
30分 |
申込先研究会 |
IBISML |
資料番号 |
IBISML2016-102 |
巻番号(vol) |
vol.116 |
号番号(no) |
no.500 |
ページ範囲 |
pp.17-24 |
ページ数 |
8 |
発行日 |
2017-02-27 (IBISML) |
|