| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2017-07-27 15:45 畳み込みニューラルネットワークの全2値化に関する一検討 ○下田将之・藤井智也・米川晴義・佐藤真平・中原啓貴（東工大）  CPSY2017-28 |
|
| 抄録 | （和） | 画像識別等の組込み機器では, 学習済み畳み込みニューラルネットワーク (CNN:Convolutional Neural Network) の識別高速化と低消費電力化が求められている. CNN の演算の 90%以上は 2 次元畳み込みであり, 主に積 和 (MAC: Multiply-Accumulation) 演算である. 従って外部メモリとのデータ削減と積和演算回路の削減が必要であ る. 近年, CNN の重み, 入力及び活性化関数の出力を 2 値 (-1/+1) に制限した 2 値化 CNN が提案されている. しか し, 提案された手法では入力層への入力は依然整数値のままであった. そのため, 入力層と中間層とを結合する畳み 込み演算は, 整数精度で行われている. 本稿は入力層の入力値も同様に 2 値化を行い, 全ての畳み込み演算をビット 演算で行う全 2 値化 CNN を提案する. そして, 全 2 値化 CNN を既存の 2 値化 CNN や, 整数精度の CNN と比較を 行った. 提案する全 2 値化 CNN は, 2 次元畳み込みを行う際の整数精度の積和演算回路が不要なため, FF を 13.7%, LUT を 2.2%削減し, 1.2 倍高速化できた. |
| （英） | A pre-trained convolutional neural network (CNN) is a feed-forward computation perspective, which is widely used for the embedded systems, requires high power-and-area efficiency. This paper realizes a binarized CNN which treats only binary values (+1/-1) for the inputs, the weights and the activation value. In this case, the multiplier is replaced into an XNOR circuit instead of a dedicated DSP block. Both inputs and weights are more suitable for hardware implementation. However, first convolutional layer still calculates in integer precision, since input value is not binarized one. In this paper, we transform input value into maps of which each pixel is 1 bit precision. The proposed method enables a binarized CNN to use bitwise operation in all layers of convolution. We call this all binarized CNN. We conduct experiment on comparing all binarized CNN, floating-point CNN and binarized CNN. Since all binarized CNN do not need dedicated DSP block, area of all binarized CNN is smaller than that of conventional binarized CNN. | |
| キーワード | （和） | ニューラルネットワーク / 2値化畳み込みニューラルネットワーク / / / / / / |
| （英） | Neural Network / Convolutional Neural Network / Binary Convolutional Neural Network / / / / / | |
| 文献情報 | 信学技報, vol. 117, no. 153, CPSY2017-28, pp. 131-136, 2017年7月. | |
| 資料番号 | CPSY2017-28 | |
| 発行日 | 2017-07-19 (CPSY) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | CPSY2017-28 |
|
| 研究会情報 | |
| 研究会 | CPSY DC IPSJ-ARC |
| 開催期間 | 2017-07-26 - 2017-07-28 |
| 開催地（和） | 秋田アトリオンビル（秋田） |
| 開催地（英） | Akita Atorion-Building (Akita) |
| テーマ（和） | 並列／分散／協調とディペンダブルコンピューティングおよび一般 |
| テーマ（英） | Parallel, Distributed and Cooperative Processing |
| 講演論文情報の詳細 | |
| 申込み研究会 | CPSY |
| 会議コード | 2017-07-CPSY-DC-ARC |
| 本文の言語 | 日本語 |
| タイトル（和） | 畳み込みニューラルネットワークの全2値化に関する一検討 |
| サブタイトル（和） | |
| タイトル（英） | Consideration of All Binarized Convolutional Neural Network |
| サブタイトル（英） | |
| キーワード(1)（和/英） | ニューラルネットワーク / Neural Network |
| キーワード(2)（和/英） | 2値化畳み込みニューラルネットワーク / Convolutional Neural Network |
| キーワード(3)（和/英） | / Binary Convolutional Neural Network |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 下田 将之 / Masayuki Shimoda / シモダ マサユキ |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institude of Technology (略称： Tokyo Inst. of Tech.) |
| 第2著者 氏名（和/英/ヨミ） | 藤井 智也 / Tomoya Fujii / フジイ トモヤ |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institude of Technology (略称： Tokyo Inst. of Tech.) |
| 第3著者 氏名（和/英/ヨミ） | 米川 晴義 / Haruyoshi Yonekawa / ヨネカワ ハルヨシ |
| 第3著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institude of Technology (略称： Tokyo Inst. of Tech.) |
| 第4著者 氏名（和/英/ヨミ） | 佐藤 真平 / Shimpei Sato / サトウ シンペイ |
| 第4著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institude of Technology (略称： Tokyo Inst. of Tech.) |
| 第5著者 氏名（和/英/ヨミ） | 中原 啓貴 / Hiroki Nakahara / ナカハラ ヒロキ |
| 第5著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institude of Technology (略称： Tokyo Inst. of Tech.) |
| 講演者 | 第1著者 |
| 発表日時 | 2017-07-27 15:45:00 |
| 発表時間 | 30分 |
| 申込先研究会 | CPSY |
| 資料番号 | CPSY2017-28 |
| 巻番号（vol） | vol.117 |
| 号番号（no） | no.153 |
| ページ範囲 | pp.131-136 |
| ページ数 | 6 |
| 発行日 | 2017-07-19 (CPSY) |
[研究会発表申込システムのトップページに戻る]