お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2024-03-22 10:55
DNNモデルへのバックドア攻撃に対する署名埋込手法の改良
藤本 聖王 イントウ宮地充子阪大ICSS2023-87
抄録 (和) 近年,機械学習,特に深層学習は飛躍的な進歩を遂げ,交通・医療・金融など多岐にわたる分野での応用により,我々の社会に大きな影響を与えている.しかしながら,機械学習は悪意を持つ者の攻撃に非常に脆弱であることが分かっている.本論文では様々な攻撃の中でもバックドア攻撃に対する防御を取り扱う.バックドア攻撃とは攻撃者が悪意のあるデータを訓練データセットの中に加えることで,その訓練データセットを用いて学習されたモデルが,攻撃者によって入力された悪意あるデータに対して,誤った出力をしてしまうものである.この攻撃に対する防御として,モデルの作成者しか知りえないデータ(署名)を訓練データセットに加えることで,攻撃の検知を行う署名埋込方式が提案されている.本論文ではこの防御手法について問題点を示し,改善手法を提案する. 
(英) In recent years, machine learning, particularly deep learning, has made remarkable strides, and has great impact on our society across various domains such as transportation, healthcare, and finance. However, it is known that machine learning is highly vulnerable to malicious attacks. This paper focuses on the defense against backdoor attacks. A backdoor attack adds malicious data into the training dataset. The model trained on this dataset produces incorrect outputs for malicious data input by the attacker. A defense known as the signature-embedding method has been proposed. This defense involves incorporating data (signatures) that only the model creator adds into the training dataset to detect backdoor attacks. This paper highlights the problems with this defense method and proposes improvements.
キーワード (和) 機械学習 / 深層学習 / バックドア攻撃 / / / / /  
(英) machine learning / deep neural network / backdoor attack / / / / /  
文献情報 信学技報, vol. 123, no. 448, ICSS2023-87, pp. 129-136, 2024年3月.
資料番号 ICSS2023-87 
発行日 2024-03-14 (ICSS) 
ISSN Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード ICSS2023-87

研究会情報
研究会 ICSS IPSJ-SPT  
開催期間 2024-03-21 - 2024-03-22 
開催地(和) 沖縄科学技術大学院大学(OIST) OISTカンファレンスセンター 
開催地(英) OIST 
テーマ(和) セキュリティ、トラスト、一般 
テーマ(英) Security, Trust, etc. 
講演論文情報の詳細
申込み研究会 ICSS 
会議コード 2024-03-ICSS-SPT 
本文の言語 日本語 
タイトル(和) DNNモデルへのバックドア攻撃に対する署名埋込手法の改良 
サブタイトル(和)  
タイトル(英) Improved signature-embedding techniques against backdoor attacks on DNN models 
サブタイトル(英)  
キーワード(1)(和/英) 機械学習 / machine learning  
キーワード(2)(和/英) 深層学習 / deep neural network  
キーワード(3)(和/英) バックドア攻撃 / backdoor attack  
キーワード(4)(和/英) /  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 藤本 聖 / Akira Fujimoto / フジモト アキラ
第1著者 所属(和/英) 大阪大学 (略称: 阪大)
Osaka University (略称: OU)
第2著者 氏名(和/英/ヨミ) 王 イントウ / Yuntao Wang / オウ イントウ
第2著者 所属(和/英) 大阪大学 (略称: 阪大)
Osaka University (略称: OU)
第3著者 氏名(和/英/ヨミ) 宮地 充子 / Atsuko Miyaji / ミヤジ アツコ
第3著者 所属(和/英) 大阪大学 (略称: 阪大)
Osaka University (略称: OU)
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2024-03-22 10:55:00 
発表時間 25分 
申込先研究会 ICSS 
資料番号 ICSS2023-87 
巻番号(vol) vol.123 
号番号(no) no.448 
ページ範囲 pp.129-136 
ページ数
発行日 2024-03-14 (ICSS) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会