| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2025-03-05 13:15 ［ポスター講演］分布外データを用いたファインチューニングによる中毒モデルの無毒化 ○高野隼佑・中村和晃（東京理科大）  EMM2024-119 |
|
| 抄録 | （和） | 中毒攻撃とは，機械学習モデルの学習データセットに「毒」となるようなデータを混入することにより当該モデルの性能を低下させる攻撃を指し，人間の目には正常に見えるデータを毒として用いるものを特にクリーンラベル中毒攻撃と呼ぶ．本攻撃に対する防御策として毒データを事前に取り除く方法が検討されているが，学習データを一か所に集約しない連合学習の環境下では，この防御策は実行しにくい．そこで本稿では，新たな防御策として，攻撃を受けた中毒モデルを事後的に補正し性能を回復させる「無毒化」手法を提案する．提案手法では，モデルのネットワークヘッドのみをファインチューニングする戦略を採用し，そのためのデータとして，少量のラベルありデータに加え，各次元がほぼ均一なソフトラベルを付与した分布外データを用いる．物体画像認識モデルを対象とした検証実験の結果，モデルの認識精度が最大11.98%回復し，提案手法の有効性が示された． |
| （英） | A poisoning attack (PA) is an attack to inject some ``poison'' samples into a training dataset of a target machine learning model to degrade its performance. In particular, PA using poison samples that seem normal for human eyes is called a clean-label poisoning attack (CLPA). A conventional approach to defending against this attack is to remove the poison samples before training. However, this approach is difficult to implement in federated learning (FL) environments, where training samples are not aggregated in one place. In this paper, we propose a new defense approach: a ``detoxification'' method for revising the poisoned model to recover its performance. Specifically, the proposed method fine-tunes only the network head of a given model using a few labeled data and many out-of-distribution data with almost uniform soft-labels. In the results of our validation experiments conducted on an object image recognition model, its recognition accuracy was recovered by up to 11.98% compared to the original poisoned model, which shows the effectiveness of the proposed method. | |
| キーワード | （和） | クリーンラベル中毒攻撃 / 連合学習 / 無毒化 / 分布外データ / ファインチューニング / / / |
| （英） | clean-label poisoning attack / federated learning / detoxification / out-of-distribution data / fine-tuning / / / | |
| 文献情報 | 信学技報, vol. 124, no. 414, EMM2024-119, pp. 10-15, 2025年3月. | |
| 資料番号 | EMM2024-119 | |
| 発行日 | 2025-02-26 (EMM) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EMM2024-119 |
|
| 研究会情報 | |
| 研究会 | EMM |
| 開催期間 | 2025-03-05 - 2025-03-06 |
| 開催地（和） | 沖縄県青年会館 |
| 開催地（英） | Okinawaken Seinenkaikan |
| テーマ（和） | 画質・音質評価，知覚・認知メトリクス，人間視聴覚システム，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | EMM |
| 会議コード | 2025-03-EMM |
| 本文の言語 | 日本語 |
| タイトル（和） | 分布外データを用いたファインチューニングによる中毒モデルの無毒化 |
| サブタイトル（和） | |
| タイトル（英） | Detoxification of a Poisoned Model by Fine-tuning with Out-of-Distribution Data |
| サブタイトル（英） | |
| キーワード(1)（和/英） | クリーンラベル中毒攻撃 / clean-label poisoning attack |
| キーワード(2)（和/英） | 連合学習 / federated learning |
| キーワード(3)（和/英） | 無毒化 / detoxification |
| キーワード(4)（和/英） | 分布外データ / out-of-distribution data |
| キーワード(5)（和/英） | ファインチューニング / fine-tuning |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 高野 隼佑 / Junsuke Takano / タカノ ジュンスケ |
| 第1著者 所属（和/英） | 東京理科大学 (略称： 東京理科大) Tokyo University of Science (略称： TUS) |
| 第2著者 氏名（和/英/ヨミ） | 中村 和晃 / Kazuaki Nakamura / ナカムラ カズアキ |
| 第2著者 所属（和/英） | 東京理科大学 (略称： 東京理科大) Tokyo University of Science (略称： TUS) |
| 講演者 | 第1著者 |
| 発表日時 | 2025-03-05 13:15:00 |
| 発表時間 | 60分 |
| 申込先研究会 | EMM |
| 資料番号 | EMM2024-119 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.414 |
| ページ範囲 | pp.10-15 |
| ページ数 | 6 |
| 発行日 | 2025-02-26 (EMM) |
[研究会発表申込システムのトップページに戻る] (日本語ページの行間係数: 1)