| 講演抄録/キーワード |
| 講演名 |
2020-01-28 14:45
[招待講演]インメモリ/アナログコンピューティングは深層学習による推論の高効率化の切り札となるか? ○出口 淳・宮下大輔・眞木明香・佐々木慎一・中田憲吾・橘 文彦・藤本竜一(キオクシア) SDM2019-85 |
| 抄録 |
(和) |
本発表では,深層学習による推論向けインメモリ/アナログコンピューティングの動向について,2019 IEEE International Electron Devices Meeting (IEDM)での招待講演[1]を基に紹介する.エッジコンピューティングの実現に向けて,深層学習による推論を高効率化するために,多数の推論用アクセラレータが開発されている.本発表で紹介予定の調査結果「アクセラレータのエネルギー効率と演算ビット精度の関係」によると,低ビット精度の領域において,インメモリ/アナログアクセラレータは従来のデジタルベースのアクセラレータよりも高いエネルギー効率を有しているように見える.しかし,一般的には,そのような低ビット精度の領域では推論の精度が劣化してしまう.そこで,Convolutional Neural Network(CNN)をターゲットに,認識精度の劣化を抑えながら更にエネルギー効率を上げるために,重みのビット幅をフィルタごとに最適に量子化するアルゴリズム[2-3],および,そのアルゴリズムの特長を最大限に生かすような推論用アクセラレータのハードウェアアーキテクチャ[3]を紹介する.最後に,タイトルの内容に関する議論を活性化するために,アクセラレータのベンチマーク手法について言及する. |
| (英) |
This presentation introduces and discuss recent trends on in-memory/analog computing for deep learning inference, which was presented as an invited talk at 2019 IEEE International Electron Devices Meeting (IEDM) [1]. A lot of accelerators have been developed for energy-efficient deep learning inference on edge/endpoint devices. Our investigation result on energy efficiency and bit precision of such accelerators shows that energy efficiency of in-memory/analog accelerators looks better than that of typical digital accelerators in a region of lower bit-precision. However, in that region, inference accuracy (e.g. image recognition accuracy) is usually deteriorated. In order to practically reduce average bit precision for weights while maintaining accuracy, we introduce our proposed filter-wise quantization technique [2-3], and a specific hardware architecture [3] mainly for convolutional neural networks. Finally, we discuss whether in-memory/analog accelerators can actually be a silver bullet for energy-efficient inference. |
| キーワード |
(和) |
深層学習 / アクセラレータ / CNN / エネルギー効率 / 量子化 / ベンチマーク手法 / / |
| (英) |
deep learning / accelerator / convolutional neural network / energy efficiency / quantization / benchmark method / / |
| 文献情報 |
信学技報, vol. 119, no. 397, SDM2019-85, pp. 11-11, 2020年1月. |
| 資料番号 |
SDM2019-85 |
| 発行日 |
2020-01-21 (SDM) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
SDM2019-85 |