| 講演抄録/キーワード |
| 講演名 |
2023-11-15 15:30
多重量子化オプティマイザを用いたエッジAIオンライン学習アーキテクチャの提案 ○明野樹紀・山崎比伊呂・浅井哲也・安藤洸太(北大) VLD2023-41 ICD2023-49 DC2023-48 RECONF2023-44 |
| 抄録 |
(和) |
本研究ではニューラルネットワークによる学習のできるハードウェアのアーキテクチャを検討評価し、そのFPGA 実装を行った。現在ニューラルネットワークを用いた AI は広く使われており、AI の学習計算をするための専用ハードウェアの開発が急がれている。そこでハードウェア指向のオプティマイザとして Holmes があり、これを用いると他のオプティマイザに比べて小さいメモリの割に早い収束をする学習ができることがわかっている。よって本論文では Holmes を搭載し、また並列化とパイプライン化によって大きなスループットが出せるハードウェアのアーキテクチャを提案した。また、そのアーキテクチャをもとにプロトタイプとして XOR、NOR の学習を行うハードウェアを FPGA に実装し、資源の評価を行った。 |
| (英) |
We propose a processor architecture for neural network (NN) training in edge and prototype it on an FPGA (Field--Programmable Gate Array). Currently, neural networks are widely employed in artificial intelligence (AI), and there is a pressing need for the development of dedicated hardware for edge side AI training. To address this demand, the Holmes optimizer has been proposed and proved to have capability of faster convergence with a smaller memory footprint compared to
other optimizers. Therefore, this paper presents a hardware architecture that incorporates Holmes and leverages parallelization and pipelining techniques to achieve significan't throughput improvements. Furthermore, based on this architecture, we evaluated the hardware resource consumption of the proposed architecture by implementing it on an FPGA. This research focuses
on proposing a hardware architecture suitable for neural network learning and its FPGA implementation. It contributes to the
advancement of hardware for neural network-based AI learning, which is of paramount importance given the widespread usage
of neural networks in AI applications. |
| キーワード |
(和) |
ニューラルネットワーク / エッジコンピューティング / アーキテクチャ / FPGA / オプティマイザ / / / |
| (英) |
Neural Network / Edge Computing / Architecture / FPGA / Optimizer / / / |
| 文献情報 |
信学技報, vol. 123, no. 259, ICD2023-49, pp. 64-69, 2023年11月. |
| 資料番号 |
ICD2023-49 |
| 発行日 |
2023-11-08 (VLD, ICD, DC, RECONF) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
VLD2023-41 ICD2023-49 DC2023-48 RECONF2023-44 |
| 研究会情報 |
| 研究会 |
VLD DC RECONF ICD IPSJ-SLDM |
| 開催期間 |
2023-11-15 - 2023-11-17 |
| 開催地(和) |
くまもと市民会館シアーズホーム夢ホール |
| 開催地(英) |
Civic Auditorium Sears Home Yume Hall |
| テーマ(和) |
デザインガイア2023 -VLSI設計の新しい大地- |
| テーマ(英) |
Design Gaia 2023 -New Field of VLSI Design- |
| 講演論文情報の詳細 |
| 申込み研究会 |
ICD |
| 会議コード |
2023-11-VLD-DC-RECONF-ICD-SLDM |
| 本文の言語 |
日本語 |
| タイトル(和) |
多重量子化オプティマイザを用いたエッジAIオンライン学習アーキテクチャの提案 |
| サブタイトル(和) |
|
| タイトル(英) |
* |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
ニューラルネットワーク / Neural Network |
| キーワード(2)(和/英) |
エッジコンピューティング / Edge Computing |
| キーワード(3)(和/英) |
アーキテクチャ / Architecture |
| キーワード(4)(和/英) |
FPGA / FPGA |
| キーワード(5)(和/英) |
オプティマイザ / Optimizer |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
明野 樹紀 / Itsuki Akeno / アケノ イツキ |
| 第1著者 所属(和/英) |
北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ) |
| 第2著者 氏名(和/英/ヨミ) |
山崎 比伊呂 / Hiro Yamazaki / ヤマザキ ヒイロ |
| 第2著者 所属(和/英) |
北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ) |
| 第3著者 氏名(和/英/ヨミ) |
浅井 哲也 / Tetsuya Asai / アサイ テツヤ |
| 第3著者 所属(和/英) |
北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ) |
| 第4著者 氏名(和/英/ヨミ) |
安藤 洸太 / Kota Ando / アンドウ コウタ |
| 第4著者 所属(和/英) |
北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2023-11-15 15:30:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
ICD |
| 資料番号 |
VLD2023-41, ICD2023-49, DC2023-48, RECONF2023-44 |
| 巻番号(vol) |
vol.123 |
| 号番号(no) |
no.258(VLD), no.259(ICD), no.260(DC), no.261(RECONF) |
| ページ範囲 |
pp.64-69 |
| ページ数 |
6 |
| 発行日 |
2023-11-08 (VLD, ICD, DC, RECONF) |
|