お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2023-03-02 11:40
データ多様体の埋め込み幾何学に基づく新しい敵対攻撃法の提案
森田匡博田崎 元趙 晋輝中大PRMU2022-84 IBISML2022-91
抄録 (和) 深層学習を利用した画像認識などでは,人間が知覚できないほど小さな摂動を加えて生成される敵対的サンプルによって,誤分類を引き起こすことが発見されている.
敵対的サンプルの発生原因は長らく確証ある理論に至らず,今までの敵対的サンプルの多くは最適化など試行錯誤によって生成された.
しかし最近,学習データが持つデータ多様体の埋め込み構造を解析することで,敵対的サンプルはデータ多様体の接空間の直交補空間方向に存在することが明らかにされた.
そこで本研究では,この発生メカニズムに基づき,埋め込み空間におけるデータ多様体構造に着目した新しい敵対的サンプルの生成手法を提案する.
本手法は,データの変形に影響が少ないとされる多様体の直交補空間成分に対応する顕著な重みベクトル方向に摂動を生成することで,人に気づかれにくい攻撃画像を生成する.
さらに,ターゲットクラスの中間層の出力を利用した標的型攻撃も検討し,これらの手法に対して攻撃可能性について評価を行う. 
(英) It has been shown recently that adversarial examples inducing misclassification by deep neural networks exist in the orthogonal complementary spaces of the tangent spaces of the data manifold.
In this paper, we propose novel adversarial attacks based on the embedding geometry of the data manifold.
The proposed attacks generate adversarial examples by adding imperceptible perturbations in the directions of the orthogonal complementary space of the tangent spaces of the data manifold along which the weight vectors have prominent components.
Moreover, we also consider targeted attacks by the output inversion in the hidden layer neurons toward the target class.
Evaluations of these proposed attacks are also reported.
キーワード (和) 深層学習 / 敵対的サンプル / 多様体仮説 / データ多様体 / / / /  
(英) Deep learning / Adversarial example / Manifold hypothesis / Data manifold / / / /  
文献情報 信学技報, vol. 122, no. 405, IBISML2022-91, pp. 140-145, 2023年3月.
資料番号 IBISML2022-91 
発行日 2023-02-23 (PRMU, IBISML) 
ISSN Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード PRMU2022-84 IBISML2022-91

研究会情報
研究会 PRMU IBISML IPSJ-CVIM  
開催期間 2023-03-02 - 2023-03-03 
開催地(和) はこだて未来大学 
開催地(英) Future University Hakodate 
テーマ(和) 異分野連携(PRMU)、AutoML (CVIM)、機械学習の理論と応用の広がり(IBISML) 
テーマ(英)  
講演論文情報の詳細
申込み研究会 IBISML 
会議コード 2023-03-PRMU-IBISML-CVIM 
本文の言語 日本語 
タイトル(和) データ多様体の埋め込み幾何学に基づく新しい敵対攻撃法の提案 
サブタイトル(和)  
タイトル(英) Novel Adversarial Attacks Based on Embedding Geometry of Data Manifolds 
サブタイトル(英)  
キーワード(1)(和/英) 深層学習 / Deep learning  
キーワード(2)(和/英) 敵対的サンプル / Adversarial example  
キーワード(3)(和/英) 多様体仮説 / Manifold hypothesis  
キーワード(4)(和/英) データ多様体 / Data manifold  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 森田 匡博 / Masahiro Morita / モリタ マサヒロ
第1著者 所属(和/英) 中央大学 (略称: 中大)
Chuo University (略称: Chuo Univ.)
第2著者 氏名(和/英/ヨミ) 田崎 元 / Hajime Tasaki / タサキ ハジメ
第2著者 所属(和/英) 中央大学 (略称: 中大)
Chuo University (略称: Chuo Univ.)
第3著者 氏名(和/英/ヨミ) 趙 晋輝 / Jinhui Chao / チョウ シンキ
第3著者 所属(和/英) 中央大学 (略称: 中大)
Chuo University (略称: Chuo Univ.)
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2023-03-02 11:40:00 
発表時間 15分 
申込先研究会 IBISML 
資料番号 PRMU2022-84, IBISML2022-91 
巻番号(vol) vol.122 
号番号(no) no.404(PRMU), no.405(IBISML) 
ページ範囲 pp.140-145 
ページ数
発行日 2023-02-23 (PRMU, IBISML) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会