| 講演抄録／キーワード |
| 講演名 |
2023-10-31 14:00
［ポスター講演］分散機械学習推論手法Split Computingの実装と評価
○依田光仁・太田翔己・前島航太・小寺奏怜・堀川裕太郎・西尾理志（東工大）・福井公三（エースコード） |
| 抄録 |
（和） |
SC（Split Computing）は，リソースが限られたデバイス，特にIoT機器などでのDNNs（deep neural networks）を用いた高度な機械学習推論を実現するための先進的な技術である．従来の機械学習アプリケーションのアプローチとしては，データを取得するデバイス上で処理するオンデバイス型の推論や，デバイスからクラウド/エッジサーバへデータを送信しサーバで処理するクラウド/エッジ型の推論が主流であった．しかしながら，オンデバイス型ではデバイスの計算能力が低いの場合に処理遅延が生じてしまう問題や，クラウド/エッジ型では生の観測データを送信することから来る個人情報流出のリスクが存在していた．SCのアドバンテージは，デバイスとエッジサーバが協調的にDNN推論を行うことで，これらの問題を効果的に軽減する点にある．我々は，このSC技術を実機端末上で実装し，実際に通信することを通じてSCの性能を評価した．3種類のノード，すなわち学習モデルの管理と推論指示を行うクラウドサーバ，分散推論処理を実行するエッジサーバ，そしてIoTデバイスを定義し，任意の分割点でのSCやデータの圧縮機能を実装して評価を行った． |
| （英） |
Split Computing (SC) is an advanced technology designed to facilitate sophisticated machine learning inference using deep neural networks (DNNs) on resource-constrained devices, particularly IoT devices. Traditional machine learning application approaches primarily involved on-device inference, where data is processed on the device that captures it, or cloud/edge-based inference, where data is transmitted from the device to a cloud/edge server for processing. However, on-device approaches can lead to processing delays if the device has limited computational power, while cloud/edge-based approaches pose risks of personal data leakage due to the transmission of raw observational data. The advantage of SC lies in its ability to effectively mitigate these issues by enabling collaborative DNN inference between the device and the edge server. We implemented this SC technology on actual devices and evaluated its performance through real-world communication. We defined three types of nodes: a cloud server that manages the learning model and provides inference instructions, an edge server that executes distributed inference processing, and an IoT device. We then implemented and evaluated SC at various split points and data compression functionalities. |
| キーワード |
（和） |
Split computing / 機械学習 / 無線LAN / / / / / |
| （英） |
Split computing / Machine learning / Wireless LAN / / / / / |
| 文献情報 |
信学技報 |
| 資料番号 |
|
| 発行日 |
|
| ISSN |
|
| PDFダウンロード |
|