| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2026-07-02 13:55 分割窓重複型Vision Transformer ○山上真和・福澤隼人・山内ゆかり（日大）  NC2026-2 IBISML2026-2 |
|
| 抄録 | （和） | 本研究では，Swin Transformerに代表される階層型Vision Transformerのほとんどが，局所領域と大域領域におけるAttentionの二段階で行われていることに着目した．基本的に局所領域はViTモデルにおける計算量削減のために使用され，大域領域は離れた領域への情報伝播のために使用される．本研究では，局所領域と大域領域の機能を併せ持つ重複型ウインドウを提案する．ImageNetを用いた画像分類タスクでは，実行時間を大幅に減少させつつ，テスト精度の低下を抑えた． |
| （英） | In this study, we focus on the fact that most hierarchical Vision Transformers, represented by Swin Transformer, perform attention in two stages: local attention and global attention. Local attention is primarily used to reduce computational cost of Vision Transformer models, while global attention enables information propagation across distant regions. To integrate the advantages of both mechanisms, we propose an overlapping window approach that simultaneously captures local and global contextual information. Experimental results on the ImageNet image classification task demonstrate that the proposed method significantly reduces execution time while suppressing the degradation of test accuracy. | |
| キーワード | （和） | ViT / Attention / 計算量 / / / / / |
| （英） | ViT / Attention / Computational cost / / / / / | |
| 文献情報 | 信学技報, vol. 126, no. 90, NC2026-2, pp. 7-10, 2026年7月. | |
| 資料番号 | NC2026-2 | |
| 発行日 | 2026-06-25 (NC, IBISML) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NC2026-2 IBISML2026-2 |
|
| 研究会情報 | |
| 研究会 | NC IBISML IPSJ-BIO IPSJ-MPS |
| 開催期間 | 2026-07-01 - 2026-07-03 |
| 開催地（和） | 沖縄科学技術大学院大学 |
| 開催地（英） | OIST |
| テーマ（和） | 機械学習、一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | NC |
| 会議コード | 2026-07-NC-IBISML-BIO-MPS |
| 本文の言語 | 日本語 |
| タイトル（和） | 分割窓重複型Vision Transformer |
| サブタイトル（和） | |
| タイトル（英） | Block Window Overlapping Vision Transformer |
| サブタイトル（英） | |
| キーワード(1)（和/英） | ViT / ViT |
| キーワード(2)（和/英） | Attention / Attention |
| キーワード(3)（和/英） | 計算量 / Computational cost |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 山上 真和 / Masakazu Yamagami / ヤマガミ マサカズ |
| 第1著者 所属（和/英） | 日本大学大学院 (略称： 日大) Nihon University (略称： NU) |
| 第2著者 氏名（和/英/ヨミ） | 福澤 隼人 / Hayato Fukuzawa / フクザワ ハヤト |
| 第2著者 所属（和/英） | 日本大学大学院 (略称： 日大) Nihon University (略称： NU) |
| 第3著者 氏名（和/英/ヨミ） | 山内 ゆかり / Yukari Yamauchi / ヤマウチ ユカリ |
| 第3著者 所属（和/英） | 日本大学 (略称： 日大) Nihon University (略称： NU) |
| 講演者 | 第1著者 |
| 発表日時 | 2026-07-02 13:55:00 |
| 発表時間 | 25分 |
| 申込先研究会 | NC |
| 資料番号 | NC2026-2, IBISML2026-2 |
| 巻番号（vol） | vol.126 |
| 号番号（no） | no.90(NC), no.91(IBISML) |
| ページ範囲 | pp.7-10 |
| ページ数 | 4 |
| 発行日 | 2026-06-25 (NC, IBISML) |
[研究会発表申込システムのトップページに戻る]