講演抄録/キーワード |
講演名 |
2022-01-20 15:10
[ショートペーパー]強化学習によるSplit inferenceにおける機械学習モデルと無線LANパラメータの同時制御 ○依田光仁(東工大)・板原壮平(京大)・西尾理志(東工大)・依田大輝・鍋谷寿久(東芝) SeMI2021-66 |
抄録 |
(和) |
DI (Distributed Inference)は,DNN (Deep Neural Network) など機械学習モデルによる推論をリソースに制約のあるデバイスとエッジサーバで協調的に行う技術である.しかし,狭帯域でパケットロスの多い無線ネットワークにおいてDIを実施すると,通信がボトルネックとなり,処理遅延が増大する.本論文では,推論精度を維持しつつ遅延を低減するために,伝送レートや再送回数などの無線通信パラメタとMLモデルの同時最適化を提案している.提案手法では,推論のパケットロス耐性を利用し,無線通信において高い伝送レートや再送を制限することで,信頼性を下げる,つまりパケットロス率を上げる代わりに遅延時間を削減する.提案手法は,MAB(Multi-armed bandit)問題としてモデル化し,UCBアルゴリズムにより,無線通信パラメタとMLモデルアーキテクチャを同時に最適化する.NS3-AIを用いたコンピュータシミュレーションの結果,提案手法はMLモデルアーキテクチャや通信パラメタのみを最適化した場合と比べ,推論の精度を維持しつつ遅延を低減できることを示した. |
(英) |
Distributed inference (DI) enables machine learning (ML) inference with a deep neural network on resource-constrained devices. However, lossy wireless networks can become a bottleneck, thereby increasing latency in DI. This paper studies a joint control of the wireless communication parameters (e.g., transmission rate, retransmission limit) and ML model architecture to reduce latency while maintaining inference accuracy. The proposed method focuses on the packet-loss tolerance of ML inference and uses unreliable (i.e., high packet-loss rate) but low-latency communication protocol. To achieve a well-balanced trade-off between accuracy and latency, the proposed method jointly controls wireless communication parameters affecting the reliability and latency and ML model architecture affecting accuracy and packet-loss reliance, based on multi-armed bandit (MAB) algorithm, namely upper confidence bound (UCB) algorithm. The results of ns3-ai-based computer simulations show that the proposed method reduces communication latency while maintaining inference accuracy. |
キーワード |
(和) |
分散推論 / 同時制御 / 機械学習 / 無線LAN / 強化学習 / / / |
(英) |
Distributed inference / Joint control / Machine learning / Wireless LAN / Reinforcement Learning / / / |
文献情報 |
信学技報, vol. 121, no. 333, SeMI2021-66, pp. 51-54, 2022年1月. |
資料番号 |
SeMI2021-66 |
発行日 |
2022-01-13 (SeMI) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
SeMI2021-66 |