講演抄録/キーワード |
講演名 |
2006-03-17 11:00
モデル誤差を考慮した強化学習法による実ロボットの適応制御 ○時田陽一・中村 泰(奈良先端大)・吉本潤一郎(沖縄先端大)・石井 信(奈良先端大) |
抄録 |
(和) |
強化学習(RL)法は制御対象に関する知識を持たずとも制御則を自動的に獲得できるという利点があるため,近年,cart-poleのバランス制御問題などの自動制御問題に広く適用されている.しかしながら,多くの実問題は非線形で高自由度なダイナミクスを有するため,「次元の呪い」と呼ばれる問題が発生する.この問題のために,強化学習法による制御則の獲得はしばしば困難になる.我々の先行研究では,制御理論とシステム同定を利用した強化学習法を提案し,acrobotの自動制御課題に適用した.しかし,シミュレータでは安定に制御できたが,実ロボットの制御は不安定であった.本研究では,システム同定誤差に対してロバストな制御則学習法を提案し,それにより実ロボットを安定して制御できる制御器の獲得を実現した結果を示す. |
(英) |
Because reinforcement learning (RL) methods have an advantage such that a control rule can be obtained autonomously without any knowledge of the target system. RL methods have been successfully applied to automatic control of various robots such as balancing control of a cart-pole. However, most real control problems have non-linear dynamics with a large number of degrees of freedom, therefore it is necessary to develop an RL method to deal with such situations. This difficulty is called ``curse of dimensionality'' in the context of RL. We formarly proposed an RL method that switches controllers which had been developed in the field of control theory, and applied our method to an automatic control problem of an acrobot. The results showed that a good controller for a simulator can be obtained autonomously but the control of the real acrobot was not stable. In the current study, we propose an RL method which is robust against the system identification error, and show that a good controller for a real robot can be obtained by our method. |
キーワード |
(和) |
強化学習 / システム同定 / acrobot / / / / / |
(英) |
reinforcement learning / system identification / acrobot / / / / / |
文献情報 |
信学技報, vol. 105, no. 659, NC2005-154, pp. 19-24, 2006年3月. |
資料番号 |
NC2005-154 |
発行日 |
2006-03-10 (NC) |
ISSN |
Print edition: ISSN 0913-5685 |
PDFダウンロード |
|