| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-11-14 16:50 Vision Transformerに対するノイズによるバックドア攻撃 ○山端祐輝・白勢政明（公立はこだて未来大）  ISEC2024-74 SITE2024-71 LOIS2024-38 |
|
| 抄録 | （和） | Vision Transformer (ViT) は2020年に登場して以来，革新的な画像認識技術として注目を集めており，その性能を向上させるための手法や派生モデルの研究が活発に行われている．その結果，ViTは優れた認識精度を示しているが，ViTに対する攻撃の検証はまだ十分ではない．ViTは従来の畳み込みニューラルネットワーク (CNN) とは異なるアプローチを取っているため，モデルの違いによる攻撃手法の精度の差が存在する可能性がある．そこで本研究では，CIFAR-10データセットとImageNetデータセットを用いてViTに対するバックドア攻撃を検証し，その結果をCNNと比較した．具体的にはViTに対してパッチ内部にノイズを加えるバックドア攻撃を実施し，その効果を検証した．その結果，ノイズがパッチの内側に配置されるにつれ，攻撃の精度が上昇した．また，極小な1ピクセルのノイズでも強い反応が見られる場合があった．さらに，ノイズを加えたパッチとは別のパッチの相対的に同じ場所にノイズを加えることでも，攻撃が成功することも示した．また，防御手法に関しても検証を行った． |
| （英） | Vision Transformer (ViT) has gained attention as an innovative image recognition technology. Because ViT takes a different approach than traditional convolutional neural networks (CNN), there may be differences in the accuracy of attack methods due to differences in models. This study examines backdoor attacks on ViT using the CIFAR-10 and ImageNet-1k datasets, comparing the results with CNNs. Results indicate that as noise is placed inside the patches, the attack's accuracy increases. Additionally, successful attacks were demonstrated even by adding noise to patches other than those used during training. The study also investigates defense techniques against such attacks. | |
| キーワード | （和） | Vision Transformer / バックドア攻撃 / 機械学習セキュリティ / / / / / |
| （英） | Vision Transformer / Backdoor Attack / AI Security / / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 255, ISEC2024-74, pp. 79-86, 2024年11月. | |
| 資料番号 | ISEC2024-74 | |
| 発行日 | 2024-11-07 (ISEC, SITE, LOIS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | ISEC2024-74 SITE2024-71 LOIS2024-38 |
|
| 研究会情報 | |
| 研究会 | SITE LOIS ISEC |
| 開催期間 | 2024-11-14 - 2024-11-15 |
| 開催地（和） | 福岡県福岡市・南近代ビル会議室7F3号室 |
| 開催地（英） | |
| テーマ（和） | 情報セキュリティ，ライフログ活用技術，ライフインテリジェンス，オフィス情報システム，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | ISEC |
| 会議コード | 2024-11-SITE-LOIS-ISEC |
| 本文の言語 | 日本語 |
| タイトル（和） | Vision Transformerに対するノイズによるバックドア攻撃 |
| サブタイトル（和） | |
| タイトル（英） | Backdoor Attack by Noise Against Vision Transformer |
| サブタイトル（英） | |
| キーワード(1)（和/英） | Vision Transformer / Vision Transformer |
| キーワード(2)（和/英） | バックドア攻撃 / Backdoor Attack |
| キーワード(3)（和/英） | 機械学習セキュリティ / AI Security |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 山端 祐輝 / Yuki Yamahata / ヤマハタ ユウキ |
| 第1著者 所属（和/英） | 公立はこだて未来大学 (略称： 公立はこだて未来大) Future University Hakodate (略称： FUN) |
| 第2著者 氏名（和/英/ヨミ） | 白勢 政明 / Masaaki Shirase / シラセ マサアキ |
| 第2著者 所属（和/英） | 公立はこだて未来大学 (略称： 公立はこだて未来大) Future University Hakodate (略称： FUN) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-11-14 16:50:00 |
| 発表時間 | 25分 |
| 申込先研究会 | ISEC |
| 資料番号 | ISEC2024-74, SITE2024-71, LOIS2024-38 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.255(ISEC), no.256(SITE), no.257(LOIS) |
| ページ範囲 | pp.79-86 |
| ページ数 | 8 |
| 発行日 | 2024-11-07 (ISEC, SITE, LOIS) |
[研究会発表申込システムのトップページに戻る]