講演抄録/キーワード |
講演名 |
2020-01-22 17:20
アンサンブル学習を用いたスパースCNNのFPGA実装に関して ○倉持亮佑・佐田悠生・下田将之・佐藤真平・中原啓貴(東工大) VLD2019-65 CPSY2019-63 RECONF2019-55 |
抄録 |
(和) |
畳み込みニューラルネットワーク (CNN) は主に画像を対象としたタスクに広く用いられており,従来の 手法と比較して非常に高い精度が得られている.
しかし,CNN の演算には多くの積和演算が必要であるため消費電力 が高く,また,近年ではより高い認識精度が求められている.
これらに対し,本研究では CNN にスパース化を行う ことで弱学習器を生成し,それらのアンサンブルモデルを構築する手法を提案する.
アンサンブルモデルの認識精度 と推論速度にはトレードオフの関係があり,スパース率 (重みの値が 0 の割合) を適切に調節することにより,認識精度を向上させると共に,CNN 実行を高速化した.
また,本研究では様々な畳み込み演算を実現するための汎用畳み 込みコアを提案し,汎用畳み込みコアを多数用いてデータフローパイプラインアーキテクチャを実現することで,スパースな重みを持つ CNN のアンサンブルモデルを効率的に実行することを可能とした.
Xilinx Kintex UltraScale+ FPGA上に汎用畳み込みコアを実装し,スパース CNN のアンサンブルモデルを実行した際の認識精度と推論速度を測定した.
デスクトップ GPU による実行と比べて 3.09 倍高速に動作し,4.20倍消費電力が低く,電力効率が 13.33倍高いという結果が得られた. |
(英) |
A convolutional neural network (CNN) is one of the most successful neural networks and widely used for computer vision tasks.
However, it requires a massive number of multiplication and accumulation (MAC) computa- tions with high-power consumption, and higher recognition accuracy is desired for modern tasks.
In the paper, we apply a sparseness technique to generate a weak classifier to build an ensemble CNN.
We control sparse (zero weight) ratio to make an excellent performance and better recognition accuracy. We propose a universal convolution core to realize variations of modern convolutional operations, and extend it to many cores with pipelining architecture to achieve high-throughput operation.
By setting the sparsity ratio and the number of predictors appropriately, high-speed architectures are realized on the many universal convolution cores while the recognition accuracy is improved compared to the conventional single CNN realization.
We implemented the prototype of many universal convolution cores on the Xilinx Kintex UltraScale+ FPGA, and compared with the desktop GPU realization, it is 3.09 times faster, 4.20 times lower power, and 13.33 times better as for the performance per power. |
キーワード |
(和) |
Deep Learning / CNN / FPGA / アンサンブル学習 / / / / |
(英) |
Deep Learning / CNN / FPGA / Ensemble Learning / / / / |
文献情報 |
信学技報, vol. 119, no. 373, RECONF2019-55, pp. 67-72, 2020年1月. |
資料番号 |
RECONF2019-55 |
発行日 |
2020-01-15 (VLD, CPSY, RECONF) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
VLD2019-65 CPSY2019-63 RECONF2019-55 |
|