| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2023-11-17 10:00 ニューラルネットワークの入出力レンジ最適化による低ビットCiMベース推論器の設計手法 ○山田 歩・三澤奈央子・松井千尋・竹内 健（東大）  VLD2023-68 ICD2023-76 DC2023-75 RECONF2023-71 |
|
| 抄録 | （和） | 本研究では，ReRAM Computation-in-Memory（CiM）によるニューラルネットワークアクセラレータの更なる高効率化のため，高推論精度を保ちつつ入出力コンバータの低ビット化・レンジの自動設計を可能にする学習アルゴリズムLIORATを提案する．LIORATによる低ビット化・ニューラルネットワークの各層についての適切なレンジ決定はlook-up table（LUT）ベースの活性化関数計算を可能にする．さらに，LUTの書き換え可能性を応用することでメモリの書き込みばらつき等を含む，不可避なデバイスエラーへの耐性向上が見込まれることを報告する．シミュレーションによる評価はResNet-32, CIFAR-10データセットで行った． |
| （英） | A neural network training algorithm, LIORAT, is proposed to improve the efficiency of neural network accelerators with ReRAM Computation-in-Memory (CiM). LIORAT automatically determines the optimal range of converters to maintain high inference accuracy with low-bit input/output quantization. The appropriate range determination for each layer of the neural network by the proposed LIORAT enables look-up table (LUT)-based activation function computation. Furthermore, by exploiting the reconfigurability of the LUT, it is demonstrated that the degradation in inference accuracy caused by the inevitable device errors, including memory write variation and ADC non-linearity, can be compensated. Evaluations are performed on the ResNet-32 and CIFAR-10 datasets. | |
| キーワード | （和） | Computation-in-Memory (CiM) / A/D変換システム / ニューラルネットワーク / エラー補償 / / / / |
| （英） | Computation-in-Memory (CiM) / A/D conversion system / Neural network / Error compensation / / / / | |
| 文献情報 | 信学技報, vol. 123, no. 258, VLD2023-68, pp. 198-199, 2023年11月. | |
| 資料番号 | VLD2023-68 | |
| 発行日 | 2023-11-08 (VLD, ICD, DC, RECONF) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | VLD2023-68 ICD2023-76 DC2023-75 RECONF2023-71 |
|
| 研究会情報 | |
| 研究会 | VLD DC RECONF ICD IPSJ-SLDM |
| 開催期間 | 2023-11-15 - 2023-11-17 |
| 開催地（和） | くまもと市民会館シアーズホーム夢ホール |
| 開催地（英） | Civic Auditorium Sears Home Yume Hall |
| テーマ（和） | デザインガイア2023 -VLSI設計の新しい大地- |
| テーマ（英） | Design Gaia 2023 -New Field of VLSI Design- |
| 講演論文情報の詳細 | |
| 申込み研究会 | VLD |
| 会議コード | 2023-11-VLD-DC-RECONF-ICD-SLDM |
| 本文の言語 | 日本語 |
| タイトル（和） | ニューラルネットワークの入出力レンジ最適化による低ビットCiMベース推論器の設計手法 |
| サブタイトル（和） | |
| タイトル（英） | CiM-based Low-bit Neural Network Accelerator Design Method with automatic I/O range optimization |
| サブタイトル（英） | |
| キーワード(1)（和/英） | Computation-in-Memory (CiM) / Computation-in-Memory (CiM) |
| キーワード(2)（和/英） | A/D変換システム / A/D conversion system |
| キーワード(3)（和/英） | ニューラルネットワーク / Neural network |
| キーワード(4)（和/英） | エラー補償 / Error compensation |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 山田 歩 / Ayumu Yamada / ヤマダ アユム |
| 第1著者 所属（和/英） | 東京大学 (略称： 東大) The University ot Tokyo (略称： Univ. of Tokyo) |
| 第2著者 氏名（和/英/ヨミ） | 三澤 奈央子 / Naoko Misawa / ミサワ ナオコ |
| 第2著者 所属（和/英） | 東京大学 (略称： 東大) The University ot Tokyo (略称： Univ. of Tokyo) |
| 第3著者 氏名（和/英/ヨミ） | 松井 千尋 / Chihiro Matsui / マツイ チヒロ |
| 第3著者 所属（和/英） | 東京大学 (略称： 東大) The University ot Tokyo (略称： Univ. of Tokyo) |
| 第4著者 氏名（和/英/ヨミ） | 竹内 健 / Ken Takeuchi / タケウチ ケン |
| 第4著者 所属（和/英） | 東京大学 (略称： 東大) The University ot Tokyo (略称： Univ. of Tokyo) |
| 講演者 | 第1著者 |
| 発表日時 | 2023-11-17 10:00:00 |
| 発表時間 | 25分 |
| 申込先研究会 | VLD |
| 資料番号 | VLD2023-68, ICD2023-76, DC2023-75, RECONF2023-71 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | no.258(VLD), no.259(ICD), no.260(DC), no.261(RECONF) |
| ページ範囲 | pp.198-199 |
| ページ数 | 2 |
| 発行日 | 2023-11-08 (VLD, ICD, DC, RECONF) |
[研究会発表申込システムのトップページに戻る]