| 講演抄録/キーワード |
| 講演名 |
2024-03-01 11:35
多段階情報処理システムにおけるVM移動制御への深層強化学習の適用 ○糀谷友貴(岡山大)・中根和俊(名大)・樽谷優弥(岡山大)・策力木格(電通大)・計 宇生(NII)・横平徳美(岡山大)・村瀬 勉(名大)・福島行信(岡山大) IN2023-87 |
| 抄録 |
(和) |
本稿では,多段階情報処理システムを対象として,情報処理タスクの進捗度(正確性)を極力高めることを目的としたVM(Virtual Machine)移動制御問題に取り組む.この問題に対して,VM掃き出し法,VM数平均化法などが提案されているが,これらの従来法が有効であるのは,システム負荷が高い状況などのような特定の状況のみに限定される.そこで本稿では,多様な状況において汎用的に高い正確性を達成するために,深層強化学習を用いたVM移動制御法を提案する.VM移動制御問題においては,システムに滞在するVM数の動的な変動に応じて,エージェントの行動空間のサイズは動的に変動するが,深層強化学習モデルではそのサイズは固定されているため,直接,深層強化学習モデルをVM移動制御問題に適用するのは困難であると考えられる.そこで提案法では,VM移動制御問題を,VM分布のみを決定する問題と,決定されたVM分布に従うVM 配置の中から採用するVM配置を決定する問題とに分割し,前者の問題を深層強化学習モデルにより解き,後者の問題はヒューリスティック手法により解くという2段階のアプローチをとる. |
| (英) |
This paper tackles a virtual machine (VM) migration control problem to maximize the progress (accuracy) of information processing tasks in multi-stage information processing systems. The conventional methods for this problem (e.g., VM sweeping method and load balancing method) are effective only for specific situations, such as when the system load is high. In this paper, in order to achieve high accuracy in various situations, we propose a VM migration method using a deep reinforcement learning algorithm. It is difficult to directly apply a deep reinforcement learning algorithm to the VM migration control problem because the size of the action space of an agent dynamically changes according to the number of VMs in the system while the size of the action space is fixed in deep reinforcement learning algorithms. Therefore, the proposed method divides the VM migration control problem into two problems: the problem of determining only the VM distribution and the problem of determining the locations of all the VMs so that it follows the determined VM distribution. The former problem is solved by a deep reinforcement learning algorithm, and the latter problem is solved by a heuristic method. |
| キーワード |
(和) |
多段階情報処理システム / VM移動制御 / 深層強化学習 / DDPG (Deep Deterministic Policy Gradient) / / / / |
| (英) |
Multi-stage information processing system / VM migration control / Deep reinforcement learning / DDPG (Deep Deterministic Policy Gradient) / / / / |
| 文献情報 |
信学技報, vol. 123, no. 398, IN2023-87, pp. 130-135, 2024年2月. |
| 資料番号 |
IN2023-87 |
| 発行日 |
2024-02-22 (IN) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IN2023-87 |