講演抄録/キーワード |
講演名 |
2013-11-13 15:45
[ポスター講演]状態遷移確率と報酬確率の転移による強化学習のサンプル量削減 ○小國晃太・成澤和志・篠原 歩(東北大) IBISML2013-54 |
抄録 |
(和) |
強化学習は非常に多くの試行を必要とするため実環境に適用することが難しいが,転移学習を用いることで効率的な強化学習を実現することができる.本稿では,転移学習を強化学習に応用したTR-MAXを提案する.TR-MAXは,状態遷移確率と報酬確率を元問題から目標問題に転移させる強化学習アルゴリズムである.強化学習の効率を測る指標であるサンプル量について,TR-MAXが既存手法よりも優れていることを証明し,実験的にも優れていることを示す. |
(英) |
Most existing reinforcement learning algorithms are not very efficient in real environmental problems. Because, they have to try many times till they get an optimal policy. In this paper, we apply transfer learning to reinforcement learning for efficient learning. We propose a new algorithm called TR-MAX. The algorithm transfers transition and reward probabilities from a source task to a target task. We show that the sample complexity of TR-MAX is smaller than that of the base algorithm. Finally, we show that the performance of our algorithm is better than that of the base algorithm in a maze task. |
キーワード |
(和) |
強化学習 / 転移学習 / サンプル量 / PAC-MDP / / / / |
(英) |
Reinforcement Learning / Transfer Learning / Sample Complexity / PAC-MDP / / / / |
文献情報 |
信学技報, vol. 113, no. 286, IBISML2013-54, pp. 139-146, 2013年11月. |
資料番号 |
IBISML2013-54 |
発行日 |
2013-11-05 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2013-54 |
研究会情報 |
研究会 |
IBISML |
開催期間 |
2013-11-10 - 2013-11-13 |
開催地(和) |
東京工業大学 蔵前会館 |
開催地(英) |
Tokyo Institute of Technology, Kuramae-Kaikan |
テーマ(和) |
第16回情報論的学習理論ワークショップ & 第2回IBISMLチュートリアル |
テーマ(英) |
The 16th IBIS Workshop & The 2nd IBIS Tutorial |
講演論文情報の詳細 |
申込み研究会 |
IBISML |
会議コード |
2013-11-IBISML |
本文の言語 |
日本語 |
タイトル(和) |
状態遷移確率と報酬確率の転移による強化学習のサンプル量削減 |
サブタイトル(和) |
|
タイトル(英) |
Sample Complexity Reduction in Reinforcement Learning by Transferred Transition and Reward Probability |
サブタイトル(英) |
|
キーワード(1)(和/英) |
強化学習 / Reinforcement Learning |
キーワード(2)(和/英) |
転移学習 / Transfer Learning |
キーワード(3)(和/英) |
サンプル量 / Sample Complexity |
キーワード(4)(和/英) |
PAC-MDP / PAC-MDP |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
小國 晃太 / Kouta Oguni / オグニ コウタ |
第1著者 所属(和/英) |
東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.) |
第2著者 氏名(和/英/ヨミ) |
成澤 和志 / Kazuyuki Narisawa / ナリサワ カズユキ |
第2著者 所属(和/英) |
東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.) |
第3著者 氏名(和/英/ヨミ) |
篠原 歩 / Ayumi Shinohara / シノハラ アユミ |
第3著者 所属(和/英) |
東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2013-11-13 15:45:00 |
発表時間 |
180分 |
申込先研究会 |
IBISML |
資料番号 |
IBISML2013-54 |
巻番号(vol) |
vol.113 |
号番号(no) |
no.286 |
ページ範囲 |
pp.139-146 |
ページ数 |
8 |
発行日 |
2013-11-05 (IBISML) |