お知らせ 研究会の開催と会場に参加される皆様へのお願い(2022年6月開催~)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2021-08-05 14:25
確率的コンピューティングを導入した多層パーセプトロンのディジタル実装
佐々木義明村松聖倭西田浩平赤井 恵浅井哲也北大CCS2021-16
抄録 (和) 近年人工知能は著しく発展を遂げているが,その発展と同じくして積和演算のコストが飛躍的に増加している.特にチップ上の面積や消費電力に大幅な制限のあるエッジAI集積回路においてそのコストによる障壁は非常に大きいものとなっている.そのためエッジAI集積回路にはできるだけ演算回路の電力効率が高いことが求められている.
確率的コンピューティング(SC : Stochastic Computing)は1960年代に提案された確率を用いることで回路面積を大幅に低減する演算手法(文献[1])である.確率の性質によって演算結果にばらつきがあることが原因で長い間日の目を見ることはなかったが,近年画像処理やディープラーニングといった演算結果にある程度の誤差を許すような様々なアプリケーションで応用可能性が示されつつある.それらのアプリケーションと同様にエッジAI集積回路においてもある程度の誤差は許容されるため,SCを導入することによる恩恵が予想できる.
SCに基づいた演算では加減算が難しいとされており,先行研究においてSCを導入したエッジAI集積回路では層状に形成したネットワークの各層でデコードを必要としていたため,演算コストが非常に高くなっていた.また学習機能を有したエッジAI集積回路の提案,あるいは学習を行うための演算回路の導入は行われてこなかった.
本論文では活性化関数への入力を前提とすることでデコードを必要としない加減算を実現する手法について提案を行う.
また学習機能を有する3層パーセプトロンのディジタル実装を行い,簡単な論理演算や線形回帰問題,そして非線形回帰問題の学習,推論を行うことでSCに基づいた機械学習の実現可能性について示す. 
(英) Stochastic computing (SC) is an arithmetic technique that enables various operations to be performed with a small number of logic gates in exchange for operational accuracy. In this paper, we discuss the realization of an edge AI integrated circuit with a learning function based on the SC. First, we propose a logic circuit that realizes an area-efficient activation function that does not require decoding in the midst of forward operations. Next, we propose a method to realize an operation equivalent to subtraction, which is considered to be difficult in SC, as well as propose a new arithmetic method that mimics the synaptic transmission of neural circuits. By assuming the input to the activation function, we also propose a summation operation that utilizes imperfect addition, which has rarely been used in SC. By introducing these arithmetic methods, we propose a digital implementation of a multilayer perceptron based on the SC. First, we learn simple logic operations and then learn linear and nonlinear regression problems. We then demonstrate the feasibility of SC-based machine learning. The method presented herein will expand the options of edge AI integrated circuits using SC and may contribute to the development of edge AI integrated circuits in the future.
キーワード (和) 確率的コンピューティング / 機械学習 / ニューラルネットワーク / エッジAI集積回路 / バックプロパゲーション / / /  
(英) Stochastic Computing / Machine Learning / Neural Network / Edge AI Integrated Circuit / Backpropagation / / /  
文献情報 信学技報, vol. 121, no. 134, CCS2021-16, pp. 7-13, 2021年8月.
資料番号 CCS2021-16 
発行日 2021-07-29 (CCS) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード CCS2021-16

研究会情報
研究会 IN CCS  
開催期間 2021-08-05 - 2021-08-05 
開催地(和) オンライン開催 
開催地(英) Online 
テーマ(和) ネットワークの科学、将来ネットワーク 、クラウド/SDN/仮想化、コンテンツ配信・流通、及び一般 
テーマ(英) Network Science, Future Network, Cloud/SDN/Virtualization, Contents Delivery/Contents Exchange, and others 
講演論文情報の詳細
申込み研究会 CCS 
会議コード 2021-08-IN-CCS 
本文の言語 日本語 
タイトル(和) 確率的コンピューティングを導入した多層パーセプトロンのディジタル実装 
サブタイトル(和)  
タイトル(英) Digital Implement of 3-layered Neural Networks with Stochastic Activation, Shunting Inhibition, and a Dual-rail Backpropagation 
サブタイトル(英)  
キーワード(1)(和/英) 確率的コンピューティング / Stochastic Computing  
キーワード(2)(和/英) 機械学習 / Machine Learning  
キーワード(3)(和/英) ニューラルネットワーク / Neural Network  
キーワード(4)(和/英) エッジAI集積回路 / Edge AI Integrated Circuit  
キーワード(5)(和/英) バックプロパゲーション / Backpropagation  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 佐々木 義明 / Yoshiaki Sasaki / ササキ ヨシアキ
第1著者 所属(和/英) 北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.)
第2著者 氏名(和/英/ヨミ) 村松 聖倭 / Seiya Muramatsu / ムラマツ セイヤ
第2著者 所属(和/英) 北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.)
第3著者 氏名(和/英/ヨミ) 西田 浩平 / Kohei Nishida / ニシダ コウヘイ
第3著者 所属(和/英) 北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.)
第4著者 氏名(和/英/ヨミ) 赤井 恵 / Megumi Akai-Kasaya / アカイ メグミ
第4著者 所属(和/英) 北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.)
第5著者 氏名(和/英/ヨミ) 浅井 哲也 / Tetsuya Asai / アサイ テツヤ
第5著者 所属(和/英) 北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.)
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2021-08-05 14:25:00 
発表時間 25分 
申込先研究会 CCS 
資料番号 CCS2021-16 
巻番号(vol) vol.121 
号番号(no) no.134 
ページ範囲 pp.7-13 
ページ数
発行日 2021-07-29 (CCS) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会