| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-05-15 13:25 深層学習への敵対的サンプル攻撃に対するデータ多様体および分類器の内積符号に着目した検知手法 久重広樹・田崎 元・○藤田真緒・趙 晋輝（中大）  ISEC2024-2 |
|
| 抄録 | （和） | 多岐にわたる分野で革新的な成果を上げている深層学習に対する攻撃である敵対的サンプル攻撃の存在が知られている．多くの対策手法が研究されている一方で，既存手法では攻撃の発生メカニズムが考慮されていないために，その効果は限定的であった．そこで，田崎らは敵対的サンプルがデータ多様体の直交補空間に生成されることを実証し，その発生メカニズムに基づく敵対的サンプル攻撃に対する防御手法を提案した．筆者らは，発生メカニズムに基づいた敵対的サンプルの生成手法や入力データとデータ多様体の間の角度に着目して攻撃を検知する角度検知手法を提案した．しかし，角度検知手法には攻撃データの元データが未知である場合に検知精度が低下する課題が存在した．そこで，本稿では入力のデータ多様体の直交補空間成分がニューラルネットワークが持つ重みとの内積の符号変化や予測値の変化に基づく検知手法を提案する. 提案手法が未知のデータから生成された攻撃データに対しても高い検知精度を示すことを確認するとともに，提案手法がどのような性質を持つかの調査を実施する． |
| （英） | Adversarial example attacks against Deep Learning are known to lead misclassification by adding invisible perturbations to normal inputs. Countermeasures proposed until now achieved only limited success due to a lack of understanding on the origin of such attacks. Recently, Tazaki et al. demonstrated that adversarial examples exist in the orthogonal complementary spaces of the tangent spaces on data manifolds and proposed a new defense against adversarial examples attacks. Based on the mechanism, new attacks and detection were proposed, e.g. to detect an adversarial example using the angle between the input data and the data manifold. However, accuracy of this detection decreases when the original data of attack is unknown. In this paper, we propose a new detection of adversarial examples by focusing on the components of the input orthogonal to the data manifold and its effects on the inner product sign with weights of the neural network and outputs of classification. The proposed method shows high detection accuracy even for attacks generated from unknown data. We also investigated the properties of the proposed method. | |
| キーワード | （和） | 深層学習 / 敵対的サンプル / データ多様体 / AIセキュリティ / / / / |
| （英） | Deep Learning / Adversarial Example / Data Manifold / AI security / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 21, ISEC2024-2, pp. 7-12, 2024年5月. | |
| 資料番号 | ISEC2024-2 | |
| 発行日 | 2024-05-08 (ISEC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | ISEC2024-2 |
|
| 研究会情報 | |
| 研究会 | ISEC |
| 開催期間 | 2024-05-15 - 2024-05-15 |
| 開催地（和） | 機械振興会館 |
| 開催地（英） | Kikai-Shinko-Kaikan Bldg. |
| テーマ（和） | 一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | ISEC |
| 会議コード | 2024-05-ISEC |
| 本文の言語 | 日本語 |
| タイトル（和） | 深層学習への敵対的サンプル攻撃に対するデータ多様体および分類器の内積符号に着目した検知手法 |
| サブタイトル（和） | |
| タイトル（英） | Detection of Adversarial Example Attacks in Deep Learning Focusing on Data Manifolds and Inner Product Signs in Classifiers |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 深層学習 / Deep Learning |
| キーワード(2)（和/英） | 敵対的サンプル / Adversarial Example |
| キーワード(3)（和/英） | データ多様体 / Data Manifold |
| キーワード(4)（和/英） | AIセキュリティ / AI security |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 久重 広樹 / Hiroki Hisashige / ヒサシゲ ヒロキ |
| 第1著者 所属（和/英） | 中央大学 (略称： 中大) Chuo University (略称： Chuo Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 田崎 元 / Hajime Tasaki / タサキ ハジメ |
| 第2著者 所属（和/英） | 中央大学 (略称： 中大) Chuo University (略称： Chuo Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 藤田 真緒 / Mao Fujita / フジタ マオ |
| 第3著者 所属（和/英） | 中央大学 (略称： 中大) Chuo University (略称： Chuo Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 趙 晋輝 / Jinhui Chao / チョウ シンキ |
| 第4著者 所属（和/英） | 中央大学 (略称： 中大) Chuo University (略称： Chuo Univ.) |
| 講演者 | 第3著者 |
| 発表日時 | 2024-05-15 13:25:00 |
| 発表時間 | 25分 |
| 申込先研究会 | ISEC |
| 資料番号 | ISEC2024-2 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.21 |
| ページ範囲 | pp.7-12 |
| ページ数 | 6 |
| 発行日 | 2024-05-08 (ISEC) |
[研究会発表申込システムのトップページに戻る]