| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-09-06 13:25 画像再構成の動的な難易度調整を行うMasked Autoencoders ○佐村俊和・畑 直宏・多田村克己（山口大）  NLP2024-54 |
|
| 抄録 | （和） | Vision Transformer (ViT) の利用には，大量の教師つきデータによる事前学習が必要だが，そのデータ準備が困難な状況が想定される．この解決方法として，入力画像の一部をマスクし，部分入力から画像を再構成する教師なし学習に事前学習を置き換えるMasked Autoencoders (MAE) が提案されている．本研究では，MAE の画像再構成の難易度を動的に調整し，性能を引き出すカリキュラム学習手法に着目し，より簡便に画像再構成における難易度を動的に変化させる手法による一般的な画像識別データセットとリモートセンシングデータセットにおける効果を報告する． |
| （英） | Vision Transformer (ViT) requires a lot of labelled data for its pre-training. The requirements may limit the scope of ViT. To relax the requirements, Masked Autoencoders (MAE) replace the pre-training with image reconstruction from masked unlabeled data. In this study, we focus on curriculum learnings dynamically modulating difficulty in the image reconstruction. We demonstrate that simplified dynamic modulation methods improve classification in general image and remote sensing datasets. | |
| キーワード | （和） | Vision Transformer / Masked Autoencoders， / カリキュラム学習 / マスク率 / ぼかし画像再構成 / / / |
| （英） | Vision Transformer / Masked Autoencoders / Curriculum Learning / Masking Ratio / Blurred Image Reconstruction / / / | |
| 文献情報 | 信学技報, vol. 124, no. 178, NLP2024-54, pp. 66-70, 2024年9月. | |
| 資料番号 | NLP2024-54 | |
| 発行日 | 2024-08-29 (NLP) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NLP2024-54 |
|
| 研究会情報 | |
| 研究会 | NLP |
| 開催期間 | 2024-09-05 - 2024-09-06 |
| 開催地（和） | 高山市図書館「煥章館」生涯学習ホール |
| 開催地（英） | Takayama City Library |
| テーマ（和） | NLP，一般 |
| テーマ（英） | Nonlinear Problems, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | NLP |
| 会議コード | 2024-09-NLP |
| 本文の言語 | 日本語 |
| タイトル（和） | 画像再構成の動的な難易度調整を行うMasked Autoencoders |
| サブタイトル（和） | |
| タイトル（英） | Masked Autoencoders with Dynamic Modulation of Difficulty in Image Reconstruction |
| サブタイトル（英） | |
| キーワード(1)（和/英） | Vision Transformer / Vision Transformer |
| キーワード(2)（和/英） | Masked Autoencoders， / Masked Autoencoders |
| キーワード(3)（和/英） | カリキュラム学習 / Curriculum Learning |
| キーワード(4)（和/英） | マスク率 / Masking Ratio |
| キーワード(5)（和/英） | ぼかし画像再構成 / Blurred Image Reconstruction |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 佐村 俊和 / Toshikazu Samura / サムラ トシカズ |
| 第1著者 所属（和/英） | 山口大学 (略称： 山口大) Yamaguchi University (略称： Yamaguchi Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 畑 直宏 / Naohiro Hata / ハタ ナオヒロ |
| 第2著者 所属（和/英） | 山口大学 (略称： 山口大) Yamaguchi University (略称： Yamaguchi Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 多田村 克己 / Katsumi Tadamura / タダムラ カツミ |
| 第3著者 所属（和/英） | 山口大学 (略称： 山口大) Yamaguchi University (略称： Yamaguchi Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-09-06 13:25:00 |
| 発表時間 | 25分 |
| 申込先研究会 | NLP |
| 資料番号 | NLP2024-54 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.178 |
| ページ範囲 | pp.66-70 |
| ページ数 | 5 |
| 発行日 | 2024-08-29 (NLP) |
[研究会発表申込システムのトップページに戻る]