| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2025-11-13 15:00 バックドア攻撃に対するActivation Clusteringを用いた検知手法の改善 ○藤本 聖・樽谷優弥・宮地充子（阪大）  ISEC2025-86 SITE2025-76 LOIS2025-36 |
|
| 抄録 | （和） | バックドア攻撃とは，攻撃者がモデル学習時に学習データセットに攻撃データを混入させることで，テスト時に攻撃者の意図した出力を引きだす攻撃である．学習するデータの質に大きく依存する機械学習にとってバックドア攻撃への対抗策が求められている．バックドア攻撃への対抗策として，隠れ層の出力を解析するActivation Clusteringを利用した検知手法が提案されている．しかし既存手法では，正常データと攻撃データの Activation のクラスタ距離が小さい場合は攻撃を検知できないことがある．さらに既存手法を回避する TaCT 攻撃が提案されている．本研究では，既存手法で用いられているクラスタリング手法を変更し，バックドア攻撃のSingle Target攻撃とTaCT攻撃について，攻撃データの割合をデータセット全体の$1sim3%$ に変更しながら実験，評価を行った．その結果，MNISTとCIFAR-10のいずれにおいても既存手法が対応できない場合でも，攻撃データを検知できることを明らかにした． |
| （英） | A backdoor attack is an attack in which an adversary injects malicious samples into the training dataset during model training, causing the trained model to produce attacker-specified outputs during testing. Since machine learning models rely on the quality of training data, effective countermeasures against backdoor attacks are essential. One such countermeasure is a detection method based on Activation Clustering, which analyzes the outputs of hidden layers. However, the existing method sometimes fail to detect attacks when the distance between the cluster of activations from clean data and that from poisoned data is small. Moreover, an advanced backdoor attack called TaCT has been proposed to bypass this method. In this study, we modify the clustering method used in the existing method and conduct experiments on both the Single Target attack and the TaCT attack, varying the ratio of poisoned samples from $1% sim 3%$ of the dataset. As a result we show that our method can successfully detect poisoned data even when the existing method fails for both the MNIST and CIFAR-10 datasets. | |
| キーワード | （和） | 機械学習 / バックドア攻撃 / Activation Clustering / / / / / |
| （英） | machine learning / backdoor attacks / Activation Clustering / / / / / | |
| 文献情報 | 信学技報, vol. 125, no. 238, ISEC2025-86, pp. 90-97, 2025年11月. | |
| 資料番号 | ISEC2025-86 | |
| 発行日 | 2025-11-05 (ISEC, SITE, LOIS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | ISEC2025-86 SITE2025-76 LOIS2025-36 |
|
| 研究会情報 | |
| 研究会 | ISEC LOIS SITE |
| 開催期間 | 2025-11-12 - 2025-11-13 |
| 開催地（和） | ITビジネスプラザ武蔵 交流室1 |
| 開催地（英） | |
| テーマ（和） | 情報セキュリティ，ライフログ活用技術，ライフインテリジェンス，オフィス情報システム，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | ISEC |
| 会議コード | 2025-11-ISEC-LOIS-SITE |
| 本文の言語 | 日本語 |
| タイトル（和） | バックドア攻撃に対するActivation Clusteringを用いた検知手法の改善 |
| サブタイトル（和） | |
| タイトル（英） | Improving the Activation Clustering-Based Method for Backdoor Attack Detection |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 機械学習 / machine learning |
| キーワード(2)（和/英） | バックドア攻撃 / backdoor attacks |
| キーワード(3)（和/英） | Activation Clustering / Activation Clustering |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 藤本 聖 / Akira Fujimoto / フジモト アキラ |
| 第1著者 所属（和/英） | 大阪大学 (略称： 阪大) The University of Osaka (略称： UOsaka) |
| 第2著者 氏名（和/英/ヨミ） | 樽谷 優弥 / Yuya Tarutani / タルタニ ユウヤ |
| 第2著者 所属（和/英） | 大阪大学 (略称： 阪大) The University of Osaka (略称： UOsaka) |
| 第3著者 氏名（和/英/ヨミ） | 宮地 充子 / Atsuko Miyaji / |
| 第3著者 所属（和/英） | 大阪大学 (略称： 阪大) The University of Osaka (略称： UOsaka) |
| 講演者 | 第1著者 |
| 発表日時 | 2025-11-13 15:00:00 |
| 発表時間 | 25分 |
| 申込先研究会 | ISEC |
| 資料番号 | ISEC2025-86, SITE2025-76, LOIS2025-36 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.238(ISEC), no.239(SITE), no.240(LOIS) |
| ページ範囲 | pp.90-97 |
| ページ数 | 8 |
| 発行日 | 2025-11-05 (ISEC, SITE, LOIS) |
[研究会発表申込システムのトップページに戻る]