| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-11-29 15:10 敵対的摂動からの学習に対する理論的説明 ○熊野創一郎（東大）・計良宥志（千葉大）・山崎俊彦（東大）  PRMU2024-13 |
|
| 抄録 | （和） | It is not fully understood why adversarial examples can deceive neural networks and transfer between different networks. To elucidate this, several studies have hypothesized that adversarial perturbations, while appearing as noises, contain class features. This is supported by empirical evidence showing that networks trained on mislabeled adversarial examples can still generalize well to correctly labeled test samples. However, a theoretical understanding of how perturbations include class features and contribute to generalization is limited. In this study, we provide a theoretical framework for understanding learning from perturbations using a one-hidden-layer network trained on mutually orthogonal samples. Our results highlight that various adversarial perturbations, even perturbations of a few pixels, contain sufficient class features for generalization. Moreover, we reveal that the decision boundary when learning from perturbations matches that from standard samples except for specific regions under mild conditions. |
| （英） | It is not fully understood why adversarial examples can deceive neural networks and transfer between different networks. To elucidate this, several studies have hypothesized that adversarial perturbations, while appearing as noises, contain class features. This is supported by empirical evidence showing that networks trained on mislabeled adversarial examples can still generalize well to correctly labeled test samples. However, a theoretical understanding of how perturbations include class features and contribute to generalization is limited. In this study, we provide a theoretical framework for understanding learning from perturbations using a one-hidden-layer network trained on mutually orthogonal samples. Our results highlight that various adversarial perturbations, even perturbations of a few pixels, contain sufficient class features for generalization. Moreover, we reveal that the decision boundary when learning from perturbations matches that from standard samples except for specific regions under mild conditions. | |
| キーワード | （和） | 敵対的事例 / 敵対的摂動 / 敵対的攻撃 / 理論 / / / / |
| （英） | Adversarial Example / Adversarial Perturbation / Adversarial Attack / Theory / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 281, PRMU2024-13, pp. 26-31, 2024年11月. | |
| 資料番号 | PRMU2024-13 | |
| 発行日 | 2024-11-22 (PRMU) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | PRMU2024-13 |
|
| 研究会情報 | |
| 研究会 | PRMU IPSJ-CVIM IPSJ-CGVI IPSJ-DCC |
| 開催期間 | 2024-11-29 - 2024-11-30 |
| 開催地（和） | 福井工業大学 福井キャンパス |
| 開催地（英） | |
| テーマ（和） | 生成・創造のためのCV/CG/DCC/PR技術 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | PRMU |
| 会議コード | 2024-11-PRMU-CVIM-CGVI-DCC |
| 本文の言語 | 英語（日本語タイトルあり） |
| タイトル（和） | 敵対的摂動からの学習に対する理論的説明 |
| サブタイトル（和） | |
| タイトル（英） | Theoretical Explanation for Learning from Adversarial Perturbations |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 敵対的事例 / Adversarial Example |
| キーワード(2)（和/英） | 敵対的摂動 / Adversarial Perturbation |
| キーワード(3)（和/英） | 敵対的攻撃 / Adversarial Attack |
| キーワード(4)（和/英） | 理論 / Theory |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 熊野 創一郎 / Soichiro Kumano / クマノ ソウイチロウ |
| 第1著者 所属（和/英） | 東京大学 (略称： 東大) The University of Tokyo (略称： UTokyo) |
| 第2著者 氏名（和/英/ヨミ） | 計良 宥志 / Hiroshi Kera / ケラ ヒロシ |
| 第2著者 所属（和/英） | 千葉大学 (略称： 千葉大) Chiba University (略称： Chiba Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 山崎 俊彦 / Toshihiko Yamasaki / ヤマサキ トシヒコ |
| 第3著者 所属（和/英） | 東京大学 (略称： 東大) The University of Tokyo (略称： UTokyo) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-11-29 15:10:00 |
| 発表時間 | 15分 |
| 申込先研究会 | PRMU |
| 資料番号 | PRMU2024-13 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.281 |
| ページ範囲 | pp.26-31 |
| ページ数 | 6 |
| 発行日 | 2024-11-22 (PRMU) |
[研究会発表申込システムのトップページに戻る]