| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2016-11-17 14:00 離散分布の加法分解可能なスカラー汎関数におけるミニマックス最適推定量 ○福地一斗・佐久間 淳（筑波大）  IBISML2016-82 |
|
| 抄録 | （和） | 離散分布$P=(p_1,...,p_k)$において，単一の連続関数$phi$によって加法分解可能なスカラー汎関数$theta(P)=sum_{i=1}^kphi(p_i)$を推定する問題を取り扱う．この汎関数は$phi$の形によってShannonエントロピー，Renyiエントロピーなどの数多のエントロピーを含む値を表す．これらの推定は，機械学習において，decision-treeの学習や，特徴選択などの重要なコンポーネントとなっているため，加法分解可能な汎関数の推定をより正確に行うことによってこれらの性能が向上することが期待できる．これまでの研究において，$phi$の5階微分の大きさがパラメータ$alpha$で定義される上界をもつという仮定において，ミニマックスレートが$frac{k^2}{(nln n)^{2-2alpha}}+frac{k^{2alpha}}{n}$ような推定量を提案した．しかし，5階微分の仮定においてミニマックスレートを示したが，仮定が加法分解可能な汎関数の推定問題をどの程度網羅するかは明らかになっていない．本稿では，ミニマックスレートが定数より大きいかどうか解析することによって，加法分解可能なスカラー汎関数の推定問題において一致推定量が存在する条件を明らかにする．これにより，既存の推定量が要求する仮定が加法分解可能なスカラー汎関数の推定問題をどれだけカバーするか明らかにする． |
| （英） | We deal with a problem of estimating additively decomposable scalar functionals from a set of $n$ iid samples drawn from a discrete distribution $P=(p_1,...,p_k)$ of $k$ alphabets. The additively decomposable scalar functional of a single function $phi$ is formed as $theta(P)=sum_{i=1}^kphi(p_i)$, and by a choice of $phi$, it becomes entropy-like criteria including $f$-entropy, Shannon entropy, and R'enyi entropy. Estimation of these criteria is an important component for machine learning algorithms such as decision-tree learning and feature selection. More precise estimation of the functionals is thus expected to improve the performance of these algorithms. In our previous study, we introduced a minimax optimal estimator with rate $frac{k^2}{(nln n)^{2-2alpha}}+frac{k^{2alpha}}{n}$, where $alpha$ is a parameter of the bound on the fifth derivative of $phi$. However, the coverage of the assumption in the estimation problems of additively decomposable scalar functionals is not clear. In this paper, we reveal the conditions of $phi$ that the estimation problem of additively decomposable scalar functional of $phi$ has no consistent estimator. These conditions clarify the coverage of the assumption of the introduced minimax optimal estimator. | |
| キーワード | （和） | 一致推定量 / ミニマックス最適性 / 汎関数推定 / 近似理論 / 代数的多項式近似 / / / |
| （英） | cosistent estimator / minimax optimality / functional estimation / approximation theory / algebraic polynomial approximation / / / | |
| 文献情報 | 信学技報, vol. 116, no. 300, IBISML2016-82, pp. 259-265, 2016年11月. | |
| 資料番号 | IBISML2016-82 | |
| 発行日 | 2016-11-09 (IBISML) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IBISML2016-82 |
|
| 研究会情報 | |
| 研究会 | IBISML |
| 開催期間 | 2016-11-16 - 2016-11-18 |
| 開催地（和） | 京都大学 |
| 開催地（英） | Kyoto Univ. |
| テーマ（和） | 情報論的学習理論ワークショップ(IBIS2016) |
| テーマ（英） | Information-Based Induction Science Workshop (IBIS2016) |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2016-11-IBISML |
| 本文の言語 | 日本語 |
| タイトル（和） | 離散分布の加法分解可能なスカラー汎関数におけるミニマックス最適推定量 |
| サブタイトル（和） | |
| タイトル（英） | Minimax optimal estimator for additively decomposable scalar functionals of discrete distributions |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 一致推定量 / cosistent estimator |
| キーワード(2)（和/英） | ミニマックス最適性 / minimax optimality |
| キーワード(3)（和/英） | 汎関数推定 / functional estimation |
| キーワード(4)（和/英） | 近似理論 / approximation theory |
| キーワード(5)（和/英） | 代数的多項式近似 / algebraic polynomial approximation |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 福地 一斗 / Kazuto Fukuchi / フクチ カズト |
| 第1著者 所属（和/英） | 筑波大学 (略称： 筑波大) University of Tsukuba (略称： Univ. of Tsukuba) |
| 第2著者 氏名（和/英/ヨミ） | 佐久間 淳 / Jun Sakuma / サクマ ジュン |
| 第2著者 所属（和/英） | 筑波大学 (略称： 筑波大) University of Tsukuba (略称： Univ. of Tsukuba) |
| 講演者 | 第1著者 |
| 発表日時 | 2016-11-17 14:00:00 |
| 発表時間 | 180分 |
| 申込先研究会 | IBISML |
| 資料番号 | IBISML2016-82 |
| 巻番号（vol） | vol.116 |
| 号番号（no） | no.300 |
| ページ範囲 | pp.259-265 |
| ページ数 | 7 |
| 発行日 | 2016-11-09 (IBISML) |
[研究会発表申込システムのトップページに戻る]