| 講演抄録/キーワード |
| 講演名 |
2012-06-20 11:00
多腕バンディット問題における大偏差原理を用いた非漸近的解析について ○本多淳也・竹村彰通(東大) IBISML2012-10 |
| 抄録 |
(和) |
多腕バンディット問題は強化学習における知識の探索と活用のジレンマを定式化したもので,複数台のスロットマシンを選んでプレイするギャンブラーのモデルとして表される.
本論文では各マシンからの報酬が区間 [0,1] 上の確率分布にしたがう場合をまず考える.
このモデルにおいて理論限界を達成するものとして DMED 戦略が近年提案されたが,その評価は漸近論に大きく依存しており有限試行回数での性能評価は知られていない.
そこで本研究では KL ダイバージェンスの挙動に関する漸近形でない大偏差原理を導出することにより DMED 戦略の有限試行回数での性能評価を行う.
さらに,報酬の分布のサポートが下側が非有界の場合であっても積率母関数が存在する場合には理論限界を達成可能であることを合わせて示す. |
| (英) |
In reinforcement learning a tradeoff between exploration and exploitation is considered.
Multiarmed bandit problems formulate this dilemma as a model of a gambler playing a slot machine with multiple arms.
In this paper we first consider a stochastic bandit such that each arm has a reward distribution supported in a known interval, e.g., [0,1].
Recently a policy, DMED, is proposed and proved to achieve the asymptotic bound for the model.
However, the derived regret bound is described in an asymptotic form and the performance in finite time has been unknown.
We inspect this policy and derive a finite-time regret bound by refining large deviation probabilities to a simple finite form.
Further, this observation reveals that the assumption on the lower-boundedness of the support is not essential and can be replaced with a weaker one, the existence of the moment generating function. |
| キーワード |
(和) |
多腕バンディット問題 / 強化学習 / 大偏差原理 / 積率母関数 / / / / |
| (英) |
multiarmed bandit problem / reinforcement learning / large deviation principle / moment generating function / / / / |
| 文献情報 |
信学技報, vol. 112, no. 83, IBISML2012-10, pp. 65-72, 2012年6月. |
| 資料番号 |
IBISML2012-10 |
| 発行日 |
2012-06-12 (IBISML) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
査読に ついて |
本技術報告は査読を経ていない技術報告であり,推敲を加えられていずれかの場に発表されることがあります. |
| PDFダウンロード |
IBISML2012-10 |
| 研究会情報 |
| 研究会 |
IBISML |
| 開催期間 |
2012-06-19 - 2012-06-20 |
| 開催地(和) |
京都キャンパスプラザ |
| 開催地(英) |
Campus plaza Kyoto |
| テーマ(和) |
機械学習一般とその応用 |
| テーマ(英) |
General topics on machine learning and its application |
| 講演論文情報の詳細 |
| 申込み研究会 |
IBISML |
| 会議コード |
2012-06-IBISML |
| 本文の言語 |
英語(日本語タイトルあり) |
| タイトル(和) |
多腕バンディット問題における大偏差原理を用いた非漸近的解析について |
| サブタイトル(和) |
|
| タイトル(英) |
On a Non-asymptotic Analysis Using Large Deviation Principles in the Multiarmed Bandit Problem |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
多腕バンディット問題 / multiarmed bandit problem |
| キーワード(2)(和/英) |
強化学習 / reinforcement learning |
| キーワード(3)(和/英) |
大偏差原理 / large deviation principle |
| キーワード(4)(和/英) |
積率母関数 / moment generating function |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
本多 淳也 / Junya Honda / ホンダ ジュンヤ |
| 第1著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: Univ. of Tokyo) |
| 第2著者 氏名(和/英/ヨミ) |
竹村 彰通 / Akimichi Takemura / タケムラ アキミチ |
| 第2著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: Univ. of Tokyo) |
| 第3著者 氏名(和/英/ヨミ) |
/ / |
| 第3著者 所属(和/英) |
(略称: )
(略称: ) |
| 第4著者 氏名(和/英/ヨミ) |
/ / |
| 第4著者 所属(和/英) |
(略称: )
(略称: ) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2012-06-20 11:00:00 |
| 発表時間 |
30分 |
| 申込先研究会 |
IBISML |
| 資料番号 |
IBISML2012-10 |
| 巻番号(vol) |
vol.112 |
| 号番号(no) |
no.83 |
| ページ範囲 |
pp.65-72 |
| ページ数 |
8 |
| 発行日 |
2012-06-12 (IBISML) |