お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2023-03-02 11:25
Vision Transformerの係数付き1bit化
佐藤 駿澤田 隼大村英史桂田浩一東京理科大PRMU2022-83 IBISML2022-90
抄録 (和) 1bit化とはニューラルネットワークのモデルの数値表現を1bit化することで,大幅な計算速度の向上と省メモリ化を実現する最適化手法である.1bit化は画像処理で幅広く用いられる畳み込みニューラルネットワーク(CNN)を対象に盛んに研究されているものの,画像分類モデルとして近年優れた性能を示しているVision Transformer(ViT)を対象とするものは活発に検討されていない.そこで本研究ではViTを対象に1bit化を検討する.ViTは多層パーセプトロン(MLP)とMulti-Head Self Attention(MHSA)の繰り返しが主な構造となっている.本研究ではこの繰り返し構造において,1bit化の適用箇所や1bit化の手法の違いによってどのように精度が変化するかについて実験を行った.その結果,浮動小数点の係数を使った畳み込み層の1bit化手法がViTにおいても有効なことを確認した.さらにMLP部のみの1bit化,あるいはMHSA部のみの1bit化を行うことによって性能が大きく改善されることも明らかにした. 
(英) 1bit neural network optimization is an optimization technique that achieves a significant increase in computational speed and memory savings by converting the numerical representation of the model to 1bit. Although binarization has been actively studied on convolutional neural network (CNN) few studies have conducted on Vision Transformer (ViT) that has attracted attention as a new image classification model. In this report, we investigate effectiveness of binarization on ViT. The main components of ViT are multi-layer perceptron (MLP) and multi-head self-attention (MHSA), which are repeatedly appeared in the basic blocks of ViT. In the experiment, we examined how the performance of ViT changes according to the components where binarization is applied and the variations of binarization. As a result, we confirmed that binarization with floating-point scaling factor for the convolutional layer is effective. Experimental results also revealed that the performances are improved even if the binarization is applied only to the MLP or the MHSA component.
キーワード (和) 畳み込みニューラルネットワーク / Vision Transformer / 最適化 / 1bit 化 / / / /  
(英) Convolutional Neural Network / Vision Transformer / Optimization / Binarization / / / /  
文献情報 信学技報, vol. 122, no. 405, IBISML2022-90, pp. 134-139, 2023年3月.
資料番号 IBISML2022-90 
発行日 2023-02-23 (PRMU, IBISML) 
ISSN Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード PRMU2022-83 IBISML2022-90

研究会情報
研究会 PRMU IBISML IPSJ-CVIM  
開催期間 2023-03-02 - 2023-03-03 
開催地(和) はこだて未来大学 
開催地(英) Future University Hakodate 
テーマ(和) 異分野連携(PRMU)、AutoML (CVIM)、機械学習の理論と応用の広がり(IBISML) 
テーマ(英)  
講演論文情報の詳細
申込み研究会 IBISML 
会議コード 2023-03-PRMU-IBISML-CVIM 
本文の言語 日本語 
タイトル(和) Vision Transformerの係数付き1bit化 
サブタイトル(和)  
タイトル(英) Binarization of Vision Transformer with Scaling Factors 
サブタイトル(英)  
キーワード(1)(和/英) 畳み込みニューラルネットワーク / Convolutional Neural Network  
キーワード(2)(和/英) Vision Transformer / Vision Transformer  
キーワード(3)(和/英) 最適化 / Optimization  
キーワード(4)(和/英) 1bit 化 / Binarization  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 佐藤 駿 / Shun Sato / サトウ シュン
第1著者 所属(和/英) 東京理科大学 (略称: 東京理科大)
Tokyo University of Science (略称: TUS)
第2著者 氏名(和/英/ヨミ) 澤田 隼 / Shun Sawada / サワダ シュン
第2著者 所属(和/英) 東京理科大学 (略称: 東京理科大)
Tokyo University of Science (略称: TUS)
第3著者 氏名(和/英/ヨミ) 大村 英史 / Hidefumi Ohmura / オオムラ ヒデフミ
第3著者 所属(和/英) 東京理科大学 (略称: 東京理科大)
Tokyo University of Science (略称: TUS)
第4著者 氏名(和/英/ヨミ) 桂田 浩一 / Kouichi katsurada / カツラダ コウイチ
第4著者 所属(和/英) 東京理科大学 (略称: 東京理科大)
Tokyo University of Science (略称: TUS)
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2023-03-02 11:25:00 
発表時間 15分 
申込先研究会 IBISML 
資料番号 PRMU2022-83, IBISML2022-90 
巻番号(vol) vol.122 
号番号(no) no.404(PRMU), no.405(IBISML) 
ページ範囲 pp.134-139 
ページ数
発行日 2023-02-23 (PRMU, IBISML) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会