| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-06-20 16:30 MLP-Mixerの量子化とその性能評価 ○熊谷 瞭・竹本 修・野崎佑典・吉川雅弥（名城大）  NC2024-11 IBISML2024-11 |
|
| 抄録 | （和） | MLP-Mixerは多層パーセプトロン（Multi Layer Perceptron）のみからなる画像分類モデルであり，従来の畳込みニューラルネットワーク（CNNs）やVision Transformer（ViT）等の最新モデルに対して競争力があり，またスループットも優れているとして注目を集めている．そこで本研究では，ハードウェアへの実装を目指したMLP-Mixerの量子化について提案し，実験によりその有効性を評価する．その結果，値をある程度低精度化した場合でもMLP-Mixerの訓練は可能であり，4ビットおよび8ビット整数による表現では，32ビット浮動小数点数による高精度なモデルと比較した場合においても精度の面で遜色ないことが示された． |
| （英） | MLP-Mixer is an image classification model consisting only of multi-layer perceptrons, and is competitive with the latest models such as conventional convolutional neural networks (CNNs) and Vision Transformers (ViT), and has high throughput. Therefore, in this study, we propose a quantization method for MLP-Mixer aimed at implementing it in hardware, and evaluate its effectiveness through experiments. The result shows that it is possible to train MLP-Mixer even when the precision of the values is reduced to some extent. In addition, the precision of representations using 4-bit and 8-bit integers is competitive even when compared with high-precision models using 32-bit floating point numbers. | |
| キーワード | （和） | 人工知能 / 画像分類 / MLP-Mixer / 量子化 / / / / |
| （英） | artificial intelligence / image classification / MLP-Mixer / quantization / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 86, IBISML2024-11, pp. 73-78, 2024年6月. | |
| 資料番号 | IBISML2024-11 | |
| 発行日 | 2024-06-13 (NC, IBISML) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NC2024-11 IBISML2024-11 |
|
| 研究会情報 | |
| 研究会 | IBISML NC IPSJ-BIO IPSJ-MPS |
| 開催期間 | 2024-06-20 - 2024-06-22 |
| 開催地（和） | 沖縄科学技術大学院大学 |
| 開催地（英） | OIST |
| テーマ（和） | 機械学習・一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2024-06-IBISML-NC-BIO-MPS |
| 本文の言語 | 日本語 |
| タイトル（和） | MLP-Mixerの量子化とその性能評価 |
| サブタイトル（和） | |
| タイトル（英） | Performance Evaluation of Quantized MLP-Mixer |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 人工知能 / artificial intelligence |
| キーワード(2)（和/英） | 画像分類 / image classification |
| キーワード(3)（和/英） | MLP-Mixer / MLP-Mixer |
| キーワード(4)（和/英） | 量子化 / quantization |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 熊谷 瞭 / Ryo Kumagai / クマガイ リョウ |
| 第1著者 所属（和/英） | 名城大学 (略称： 名城大) Meijo University (略称： Meijo Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 竹本 修 / Shu Takemoto / タケモト シュウ |
| 第2著者 所属（和/英） | 名城大学 (略称： 名城大) Meijo University (略称： Meijo Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 野崎 佑典 / Yusuke Nozaki / ノザキ ユウスケ |
| 第3著者 所属（和/英） | 名城大学 (略称： 名城大) Meijo University (略称： Meijo Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 吉川 雅弥 / Masaya Yoshikawa / ヨシカワ マサヤ |
| 第4著者 所属（和/英） | 名城大学 (略称： 名城大) Meijo University (略称： Meijo Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-06-20 16:30:00 |
| 発表時間 | 25分 |
| 申込先研究会 | IBISML |
| 資料番号 | NC2024-11, IBISML2024-11 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.85(NC), no.86(IBISML) |
| ページ範囲 | pp.73-78 |
| ページ数 | 6 |
| 発行日 | 2024-06-13 (NC, IBISML) |
[研究会発表申込システムのトップページに戻る]