| 講演抄録/キーワード |
| 講演名 |
2022-01-24 10:25
深層学習超解像モデルのINT8実装における精度改善に有効な手法の調査 ○廣瀬翔太・和田直己・孫 鶴鳴・甲藤二郎(早大) IE2021-29 |
| 抄録 |
(和) |
固定小数点は,深層学習において,重みや中間層の数値を整数として扱う技術である.一般に深層学習のモデルでは,それぞれの重みを32bitの浮動小数点として保持しているため,重みを8bitの整数として保存することによって,モデルの大きさをおよそ4分の1に削減することができる.さらに,メモリ使用量を削減することができるほか,可能であれば計算機支援によって推論を高速化することができる.一方で,固定小数点では,重みや中間層の数値のダイナミックレンジが狭くなることによって,モデルの精度が低下する.そのため,TensorRTやTensorFlow Liteなどの推論フレームワークでは,量子化を行う時に,入力データと中間層の数値の分布を考慮することによって,量子化による精度の低下を抑えるためのキャリブレーションという機能が提供されている.この論文ではTensorRTを利用して,超解像を行う学習済みモデルを量子化した後,速度と精度を計測し,両者のトレードオフについて確認する.また,キャリブレーションの効果について,ポストトレーニング量子化と量子化認識トレーニングの精度の比較を行う.結果として,量子化認識トレーニングが精度の保持に有効であることを確認する |
| (英) |
(Not available yet) |
| キーワード |
(和) |
TensorRT / リアルタイム推論 / 量子化 / 量子化認識トレーニング / 超解像 / / / |
| (英) |
/ / / / / / / |
| 文献情報 |
信学技報, vol. 121, no. 346, IE2021-29, pp. 9-14, 2022年1月. |
| 資料番号 |
IE2021-29 |
| 発行日 |
2022-01-17 (IE) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IE2021-29 |
| 研究会情報 |
| 研究会 |
IE |
| 開催期間 |
2022-01-24 - 2022-01-24 |
| 開催地(和) |
国立情報学研究所 |
| 開催地(英) |
National Institute of Informatics |
| テーマ(和) |
画像処理・符号化および一般 |
| テーマ(英) |
Image Processing, Image Coding, etc. |
| 講演論文情報の詳細 |
| 申込み研究会 |
IE |
| 会議コード |
2022-01-IE |
| 本文の言語 |
日本語 |
| タイトル(和) |
深層学習超解像モデルのINT8実装における精度改善に有効な手法の調査 |
| サブタイトル(和) |
|
| タイトル(英) |
Investigation for good technique to improve the accuracy of INT8 deep learning model for super-resolution |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
TensorRT / |
| キーワード(2)(和/英) |
リアルタイム推論 / |
| キーワード(3)(和/英) |
量子化 / |
| キーワード(4)(和/英) |
量子化認識トレーニング / |
| キーワード(5)(和/英) |
超解像 / |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
廣瀬 翔太 / Shota Hirose / ヒロセ ショウタ |
| 第1著者 所属(和/英) |
早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.) |
| 第2著者 氏名(和/英/ヨミ) |
和田 直己 / Naoki Wada / ワダ ナオキ |
| 第2著者 所属(和/英) |
早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.) |
| 第3著者 氏名(和/英/ヨミ) |
孫 鶴鳴 / Heming Sun / ソン カクメイ |
| 第3著者 所属(和/英) |
早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.) |
| 第4著者 氏名(和/英/ヨミ) |
甲藤 二郎 / Jiro Katto / カットウ ジロウ |
| 第4著者 所属(和/英) |
早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2022-01-24 10:25:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
IE |
| 資料番号 |
IE2021-29 |
| 巻番号(vol) |
vol.121 |
| 号番号(no) |
no.346 |
| ページ範囲 |
pp.9-14 |
| ページ数 |
6 |
| 発行日 |
2022-01-17 (IE) |