| 講演抄録/キーワード |
| 講演名 |
2017-11-09 13:00
[ポスター講演]経験ベイズ木 ○関野正志(SMN) IBISML2017-39 |
| 抄録 |
(和) |
決定木において、葉ノードの出力を確率分布でモデル化し、周辺尤度を規準に分割していく決定木学習アルゴリズム『経験ベイズ木(Empirical Bayesian Tree:EBT)』と、EBTを学習器とするRandom Forest『Random Empirical Bayesian Trees:REBT』を提案する。
出力の分布として指数型分布族を用いることで、周辺尤度は十分統計量の更新により計算でき、効率的に決定木を構築できる。
また、周辺尤度を規準とすることで、二分木の枝刈りや連続値のMulti-splitによる多分木が可能となり、木の複雑さを自動的に調整することができる。
経験ベイズ木ではタスクに応じて適切な確率分布を選ぶことで、様々なタスクを統一的な枠組みで扱うことができる。
従来の決定木における二値分類に対応するベルヌーイ分布や、二乗誤差に基づく回帰に対応する正規分布だけでなく、ポアソン分布や指数分布なども用いることができる。 |
| (英) |
We propose a new decision tree learning algorithm ``Empirical Bayesian Tree (EBT)'', which models the outputs of a leaf node by a probability distribution and uses the marginal likelihood for a criterion to construct a decision tree.
When we use the exponential family distributions for modeling the outputs, the marginal likelihood can be efficiently calculated by updating sufficient statistics.
By using marginal likelihood, EBT can prune the bisection tree or construct a multi-split tree by splitting a continuous explanatory variable into multiple intervals.
In the EBT framework, not only the Bernoulli distribution for a discriminant task or the Normal distribution for a least squares regression problem, but also the Poisson distribution or the Exponential distribution can be used.
We also examined the Random Forest using EBTs ``Random Empirical Bayesian Trees (REBT)'' . |
| キーワード |
(和) |
経験ベイズ推定 / 決定木 / ランダムフォレスト / 一般化線形モデル / / / / |
| (英) |
Empirical Bayes Estimation / Decision Tree / Random Forest / Generalized Liner Model / / / / |
| 文献情報 |
信学技報, vol. 117, no. 293, IBISML2017-39, pp. 31-38, 2017年11月. |
| 資料番号 |
IBISML2017-39 |
| 発行日 |
2017-11-02 (IBISML) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IBISML2017-39 |