| 講演抄録/キーワード |
| 講演名 |
2026-03-17 12:35
OSCARベクトルマルチコアにおける推論処理の高速化に向けたローカルメモリ管理手法 ○権藤創太・上林 嶺・朱 允楷・水本幸希・野谷優仁・北村俊明・笠原博徳・木村啓二(早大) CPSY2025-69 DC2025-141 |
| 抄録 |
(和) |
組み込み環境においても深層学習推論処理が広く用いられるようになると共に,これら処理のさらなる高速化かつ低消費電力化が求められている.
このためのアプローチとしてコンパイラと協調動作してベクトル化とローカルメモリ最適化を行うベクトルマルチコアは有用である.
本稿では,コンパイラ協調ベクトルマルチコアチップ上での推論処理を高速化するメモリ管理手法を提案する.本手法では従来のローカルメモリ管理を拡張し,ベクトルアクセラレータ用のメモリ管理を実現する.性能評価にはResNet-18を用い,FPGA上に実装したベクトルマルチコアチップで検証を行った.その結果,1コアでの逐次実行に対しベクトル化と4コア並列化により,畳み込み処理では最大126.4倍,全結合層では13.6倍の速度向上が確認された. |
| (英) |
As deep learning inference processes have been widely used even in embedded areas, their higher performance with lower power dissipation has also been strongly demanded.
Using parallelizing compiler cooperative vector multicores with local memory is a promising approach to realize it.
This paper proposes a local memory management scheme to accelerate inference on the OSCAR vector multicore architecture, co-designed with the OSCAR compiler to reduce power consumption.
The proposed scheme extends prior local memory management approaches and enables efficient memory management for the OSCAR vector accelerator.
Performance evaluation was conducted using ResNet-18 on the OSCAR vector multicore chip implemented on an FPGA.
Experimental results show that, compared with sequential execution on a single core, vectorization and multicore parallelization on four cores achieve speedups of up to 126.4x for convolution computations and 13.6x for the fully connected layer. |
| キーワード |
(和) |
ベクトルアクセラレータ / マルチコアプロセッサ / 深層機械学習 / 並列処理 / / / / |
| (英) |
vector accelerator / multicore processor / deep learning / parallel computing / / / / |
| 文献情報 |
信学技報, vol. 125, no. 401, CPSY2025-69, pp. 101-106, 2026年3月. |
| 資料番号 |
CPSY2025-69 |
| 発行日 |
2026-03-08 (CPSY, DC) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
CPSY2025-69 DC2025-141 |