講演抄録/キーワード |
講演名 |
2023-05-19 09:45
Split Computingの実機を用いた実験評価 ○依田光仁・太田翔己・前島航太・小寺奏怜・堀川裕太郎・西尾理志(東工大)・福井公三(エースコード) SeMI2023-12 |
抄録 |
(和) |
SC (Split computing)と呼ばれるDNN(Deep Neural Network)を用いた推論が注目を集めている.
SCは,IoT機器などのリソースに制約のあるデバイスとサーバを連携して実現するための技術である.従来の機械学習アプリケーションでは,データを取得したデバイスで推論処理を実行するオンデバイス型や,デバイスからクラウド/エッジサーバにデータを送信し処理するクラウド/エッジ型が用いられてきた.しかし,オンデバイス型では,デバイスの計算能力が低い場合に大きな処理遅延が発生し,クラウド/エッジ型では生の観測データを送信するため個人情報流出のリスクがある.SCではデバイスとエッジサーバが協調してDNNを用いた推論処理を行うことで処理遅延や個人情報流出のリスクを低減する.我々はSCをDockerコンテナを用いた仮想端末上に実装しTCコマンドによるネットワークエミュレーションを用いた実験評価を行った.具体的には,学習モデルの管理と推論指示を行うクラウドサーバと,分散推論処理を実行するエッジサーバおよびIoTデバイスの3種類のノードを定義し,任意の分割点によるSCや送信データを圧縮する機能を実装した.実験によりパケット損失率が大きいとき分割点を変えることで遅延や精度が変化することを示した. |
(英) |
Machine learning (ML) inference using Deep Neural Network (DNN) with a technique called Split Computing (SC) has attracted attention. SC is a technology for realizing ML applications by coordinating devices with resource-constrained IoT devices and servers. Conventional ML applications have used on-device types, in which inference processing is performed on the device where data is acquired, and cloud/edge types, in which data is sent from the device to the cloud/edge server for processing. However, in on-device types, significant processing delays occur when the device’s computing power is low, and in cloud/edge types, there is a risk of personal information leakage because raw observation data is sent. With SC, processing delays and risks of personal information leakage can be reduced by collaboratively performing inference processing using DNN between devices and edge servers. We implemented SC on a virtual terminal using Docker containers and conducted experimental evaluations using network emulation with the TC command. Specifically, we defined three types of nodes: a cloud server that manages learning models and inference instructions, an edge server that executes distributed inference processing, and IoT devices. We also implemented a function to compress SC and transmitted data at any split point. The experiments demonstrated that changing the split point when the packet loss rate is high can affect the latency and accuracy. |
キーワード |
(和) |
Split computing / 機械学習 / 無線LAN / / / / / |
(英) |
Split computing / Machine learning / Wireless LAN / / / / / |
文献情報 |
信学技報, vol. 123, no. 31, SeMI2023-12, pp. 50-52, 2023年5月. |
資料番号 |
SeMI2023-12 |
発行日 |
2023-05-11 (SeMI) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
SeMI2023-12 |