講演抄録/キーワード |
講演名 |
2022-01-18 14:00
L1正則化モデルの混合による敵対的堅牢性の獲得について ○竹ノ内宏信・竹内純一(九大) IBISML2021-26 |
抄録 |
(和) |
画像分類における敵対的訓練において,L1正則化を導入した複数のモデルの混合による手法を提案する.L1正則化は,画像分類器における説明変数を剪定し,敵対的堅牢性を向上させる効果があることが知られている.しかし,我々の実験によると,正則化を行わないモデルに対する敵対的サンプルへの堅牢性は向上するが,学習済み正則化モデルを既知とした新たな攻撃には脆弱である.すなわち,新たな敵対的サンプルを得ることができる.このサンプルを用いた敵対的訓練により,新たなモデルの生成が可能だが,このモデルは,別の脆弱性が観測される.これに対し,正則化の強さが異なるいくつかの正則化モデルの混合をニューラルネットで実装し,それぞれの正則化モデルに対する敵対的サンプルを訓練データとした敵対的訓練を実施した.この結果,混合モデルは他のいずれの正則化モデルよりも堅牢であり,このモデルに対する有効な敵対的摂動の多様性が低くなることを実験により確認した. |
(英) |
We propose a method of adversarial training using L1 regularizationfor image classification.It is known that L1 regularization is effective to improve robustness for adversarial samples by pruning image classifier's explanatory variables.However, we showed by experiments that the regularized model is robust to the adversarial samples to the model without L1 regularization,while it has vulnerability to the adversarial samples generated using the knowledgeabout the L1 regularized model.For this problem, we developed a new method using amixture of models with various strength of L1 regularizationand trained it with adversarial samples to single L1 regularized models.By experiment, we showed that our model is more robust than the single modelsand that the successful adversarial perturbation to the mixture modelis less diverse than that to other single models. |
キーワード |
(和) |
深層学習 / 敵対的トレーニング / / / / / / |
(英) |
Deep Learning / Adversarial Training / / / / / / |
文献情報 |
信学技報, vol. 121, no. 321, IBISML2021-26, pp. 61-66, 2022年1月. |
資料番号 |
IBISML2021-26 |
発行日 |
2022-01-10 (IBISML) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2021-26 |