| 講演抄録/キーワード |
| 講演名 |
2020-12-02 10:00
マルコフ決定過程問題における学習期間の行動のベイズ決定理論に基づく最適化 ○一條尚希・中原悠太・本村勇人・松嶋敏泰(早大) IT2020-31 |
| 抄録 |
(和) |
遷移確率未知のマルコフ決定過程 (MDP) 問題においては学習と報酬獲得を両立する必要がある.これに 対して,期間を学習期間と制御期間に分割して行動選択を行う手法がある.本研究では,遷移確率未知の期間を分割した MDP を用いて学習期間の遷移サンプル収集の問題を考える.その上で,学習期間の行動選択の目的を「 御期間の割引総報酬のベイズ規準での最大化」と定めて解を導出する. そして,学習期間の長さについて指数オー ダーである解の計算量を減らす近似アルゴリズムを提案する. |
| (英) |
In Markov decision process(MDP) problems with an unknown transition probability, a learning agent has to learn the unknown information and get rewards at the same time. One way to deal with this difficulty is to separate the period of the MDP into two parts; the learning period and the earning period. In this paper, we consider a decision problem of sampling actions to learn the unknown information in the learning period of the divided MDP. Our purpose is formulated as a maximization of the total discounted reward based on the Bayes decision theory. We derive a theoretical solution for it. However, its computational complexity is on the exponential order with respect to the length of the learning period. Therefore, we propose two approximation algorithms to reduce computational complexity. |
| キーワード |
(和) |
マルコフ決定過程 / 動的計画法 / 価値反復法 / 強化学習 / ベイズ決定理論 / / / |
| (英) |
Markov decision process / Dynamic Programming / Policy iteration / Reinforcement learning / Bayes decision theory / / / |
| 文献情報 |
信学技報, vol. 120, no. 268, IT2020-31, pp. 38-43, 2020年12月. |
| 資料番号 |
IT2020-31 |
| 発行日 |
2020-11-24 (IT) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IT2020-31 |
| 研究会情報 |
| 研究会 |
IT |
| 開催期間 |
2020-12-01 - 2020-12-03 |
| 開催地(和) |
オンライン開催 |
| 開催地(英) |
Online |
| テーマ(和) |
若手研究者のための講演会,一般 |
| テーマ(英) |
Lectures for Young Researchers, General |
| 講演論文情報の詳細 |
| 申込み研究会 |
IT |
| 会議コード |
2020-12-IT |
| 本文の言語 |
日本語 |
| タイトル(和) |
マルコフ決定過程問題における学習期間の行動のベイズ決定理論に基づく最適化 |
| サブタイトル(和) |
|
| タイトル(英) |
Policy Optimization Based on Bayesian Decision Theory in Learning Period on Markov Decision Process |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
マルコフ決定過程 / Markov decision process |
| キーワード(2)(和/英) |
動的計画法 / Dynamic Programming |
| キーワード(3)(和/英) |
価値反復法 / Policy iteration |
| キーワード(4)(和/英) |
強化学習 / Reinforcement learning |
| キーワード(5)(和/英) |
ベイズ決定理論 / Bayes decision theory |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
一條 尚希 / Naoki Ichijo / イチジョウ ナオキ |
| 第1著者 所属(和/英) |
早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.) |
| 第2著者 氏名(和/英/ヨミ) |
中原 悠太 / Yuta Nakahara / ナカハラ ユウタ |
| 第2著者 所属(和/英) |
早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.) |
| 第3著者 氏名(和/英/ヨミ) |
本村 勇人 / Yuto Motomura / モトムラ ユウト |
| 第3著者 所属(和/英) |
早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.) |
| 第4著者 氏名(和/英/ヨミ) |
松嶋 敏泰 / Toshiyasu Matsushima / マツシマ トシヤス |
| 第4著者 所属(和/英) |
早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2020-12-02 10:00:00 |
| 発表時間 |
20分 |
| 申込先研究会 |
IT |
| 資料番号 |
IT2020-31 |
| 巻番号(vol) |
vol.120 |
| 号番号(no) |
no.268 |
| ページ範囲 |
pp.38-43 |
| ページ数 |
6 |
| 発行日 |
2020-11-24 (IT) |