| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-07-23 10:05 データ多様体に着目した深層学習の構造解析による敵対的サンプル攻撃の内的要因の解明 ○田崎 元・趙 晋輝（中大）  ISEC2024-48 SITE2024-45 BioX2024-58 HWS2024-48 ICSS2024-52 EMM2024-54 |
|
| 抄録 | （和） | 深層学習を利用した分類器に対して，意図的に誤分類を引き起こす攻撃として敵対的サンプル攻撃が知られている．従来，敵対的サンプルがどのように誤分類を引き起こすか確立した理論はなかったものの，筆者らはデータ多様体の埋め込み幾何学に基づく解析を行うことにより，高次元空間において学習データの分布から外れた方向に敵対的サンプルが存在することを実証した．本稿では，この理論を拡張し，学習済み分類器の重みとデータ多様体の関係に着目し，敵対的サンプル攻撃が発生する内的要因について提案する．さらに，実データによる実験を通じて，提案する内的要因に関する妥当性や内的要因に基づく防御手法を検証する． |
| （英） | Adversarial example attacks are known to intentionally cause misclassification of classifiers using deep learning. Until now, theoretical understanding on causes of adversarial examples has not succeeded. Recently, the authors demonstrated that adversarial examples exist in the direction out of the distribution of training data in a high-dimensional space by analysis based on the embedding geometry of the data manifold. In this paper, we further show the counterpart of the extrinsic cause by focusing on the geometric relationship between the weight updates of the classifier and the data manifold, and prove the intrinsic cause of adversarial example attacks. Furthermore, the proposed theory and defense based on intrinsic cause is verified by experiments with real data. | |
| キーワード | （和） | 敵対的サンプル / 深層学習 / データ多様体 / / / / / |
| （英） | Adversarial example / Deep learning / Data manifold / / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 120, ISEC2024-48, pp. 261-266, 2024年7月. | |
| 資料番号 | ISEC2024-48 | |
| 発行日 | 2024-07-15 (ISEC, SITE, BioX, HWS, ICSS, EMM) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | ISEC2024-48 SITE2024-45 BioX2024-58 HWS2024-48 ICSS2024-52 EMM2024-54 |
|
| 研究会情報 | |
| 研究会 | EMM BioX ISEC SITE ICSS HWS IPSJ-CSEC IPSJ-SPT |
| 開催期間 | 2024-07-22 - 2024-07-23 |
| 開催地（和） | 札幌コンベンションセンター |
| 開催地（英） | Sapporo Convention Center |
| テーマ（和） | セキュリティ、一般 （セキュリティサマーサミット2024） |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | ISEC |
| 会議コード | 2024-07-EMM-BioX-ISEC-SITE-ICSS-HWS-CSEC-SPT |
| 本文の言語 | 日本語 |
| タイトル（和） | データ多様体に着目した深層学習の構造解析による敵対的サンプル攻撃の内的要因の解明 |
| サブタイトル（和） | |
| タイトル（英） | Intrinsic Cause of Adversarial Examples by Geometric Analysis of Deep Learning Viewed from Data Manifold |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 敵対的サンプル / Adversarial example |
| キーワード(2)（和/英） | 深層学習 / Deep learning |
| キーワード(3)（和/英） | データ多様体 / Data manifold |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 田崎 元 / Hajime Tasaki / タサキ ハジメ |
| 第1著者 所属（和/英） | 中央大学 (略称： 中大) Chuo University (略称： Chuo Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 趙 晋輝 / Jinhui Chao / チョウ シンキ |
| 第2著者 所属（和/英） | 中央大学 (略称： 中大) Chuo University (略称： Chuo Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-07-23 10:05:00 |
| 発表時間 | 25分 |
| 申込先研究会 | ISEC |
| 資料番号 | ISEC2024-48, SITE2024-45, BioX2024-58, HWS2024-48, ICSS2024-52, EMM2024-54 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.120(ISEC), no.121(SITE), no.122(BioX), no.123(HWS), no.124(ICSS), no.125(EMM) |
| ページ範囲 | pp.261-266 |
| ページ数 | 6 |
| 発行日 | 2024-07-15 (ISEC, SITE, BioX, HWS, ICSS, EMM) |
[研究会発表申込システムのトップページに戻る]