| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2015-03-17 13:50 情報量規準WAICを用いたLASSO学習の最適化と都市データ解析への応用 ○宮崎 大・渡辺澄夫（東工大）  MBE2014-175 NC2014-126 |
|
| 抄録 | （和） | LASSO(Least Absolute Shrinkage and Selection Operator) 回帰は，二乗損失にパラメータの要素の絶対値の総和で表される罰則項を付加する方法であり，推定されるパラメータにスパース性が見られるときに有用であると考えられている．LASSO回帰はニューラルネットワークの学習や統計的推測の問題へ適用されているが，罰則項の大きさの決定方法については不十分な点が残されていた．我々はこれまでに，ベイズ法の観点からLASSO回帰を扱うことで，罰則項の決定問題を事前分布の最適化問題であると考え，事後分布が正規分布で近似できるか否かに関わらず予測損失の漸近的な不偏推定を与える情報量規準 WAIC を用いて最適化する方法を提案し，その有効性を実験的に明らかにした．本論文ではこの方法をLASSO回帰による都市データ解析に適用し，次の3点を明らかにする．(1)都市データ解析において，LASSO回帰とridge回帰の両方について，WAICを用いて適切なハイパーパラメータを設定することにより，推測において不要な変数を削減することができる．(2)用いた都市データに対しては，LASSO回帰とridge回帰では最適なハイパーパラメータが異なったが，推測されたパラメータはほぼ同じであった．(3)最小二乗法により推測されたパラメータでは変数削減効果が見られず，推測されたパラメータは上記の２方法とは大きく異なるものであった． |
| （英） | LASSO(Least Absolute Shrinkage and Selection Operator) is a method adding a penalty term consisting of absolute values of parameters to the squared error, which is expected to be effective when the true parameter is sparse. However, it is not yet established how to optimize its hyperparameter. We have been studied LASSO from the Bayesian point of view, and proposed an optimization method of the hyperparameter using the information criterion WAIC which is an asymptotic unbiased estimator of the generalization error. In this paper, we apply this method to city data analysis, and show three points. (1) Unnecessary variables can be cut by setting the appropriate hyperparameter by using WAIC in both LASSO and ridge regressions. (2) Optimal hyperparameter of LASSO is different from that of ridge, but the estimated parameters are almost equal to each other. (3) The least square method is not effective in the parameter reduction problem. | |
| キーワード | （和） | LASSO回帰 / ridge回帰 / ハイパーパラメータ / WAIC / / / / |
| （英） | LASSO regression / ridge regression / Hyperparameter / WAIC / / / / | |
| 文献情報 | 信学技報, vol. 114, no. 515, NC2014-126, pp. 331-336, 2015年3月. | |
| 資料番号 | NC2014-126 | |
| 発行日 | 2015-03-09 (MBE, NC) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | MBE2014-175 NC2014-126 |
|
| 研究会情報 | |
| 研究会 | NC MBE |
| 開催期間 | 2015-03-16 - 2015-03-17 |
| 開催地（和） | 玉川大学 |
| 開催地（英） | Tamagawa University |
| テーマ（和） | ME，一般 |
| テーマ（英） | ME, etc |
| 講演論文情報の詳細 | |
| 申込み研究会 | NC |
| 会議コード | 2015-03-NC-MBE |
| 本文の言語 | 日本語 |
| タイトル（和） | 情報量規準WAICを用いたLASSO学習の最適化と都市データ解析への応用 |
| サブタイトル（和） | |
| タイトル（英） | Optimization of LASSO Learning using WAIC and Its Application to City Data Analysis |
| サブタイトル（英） | |
| キーワード(1)（和/英） | LASSO回帰 / LASSO regression |
| キーワード(2)（和/英） | ridge回帰 / ridge regression |
| キーワード(3)（和/英） | ハイパーパラメータ / Hyperparameter |
| キーワード(4)（和/英） | WAIC / WAIC |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 宮崎 大 / Dai Miyazaki / ミヤザキ ダイ |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech) |
| 第2著者 氏名（和/英/ヨミ） | 渡辺 澄夫 / Sumio Watanabe / ワタナベ スミオ |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech) |
| 講演者 | 第1著者 |
| 発表日時 | 2015-03-17 13:50:00 |
| 発表時間 | 25分 |
| 申込先研究会 | NC |
| 資料番号 | MBE2014-175, NC2014-126 |
| 巻番号（vol） | vol.114 |
| 号番号（no） | no.514(MBE), no.515(NC) |
| ページ範囲 | pp.331-336 |
| ページ数 | 6 |
| 発行日 | 2015-03-09 (MBE, NC) |
[研究会発表申込システムのトップページに戻る]