講演抄録/キーワード |
講演名 |
2023-03-13 14:20
敵対的攻撃手法の動的解析 ○五島健太朗(JPNIC)・内田真人(早大) ICSS2022-52 |
抄録 |
(和) |
本研究では,機械学習における重大な脆弱性として指摘されている敵対的攻撃に対する防御の第一歩とし
て,実際に攻撃手法を「検体」として動作させ,それによって現れる個々のサンプル単位での攻撃の成否を観測するこ
とで,攻撃手法の特性を明らかにする手法を提案する.本研究ではこれを「動的解析」と呼ぶ.この「動的解析」に
より観測されたミクロな挙動が同等なアルゴリズム同士は,たとえ設計やそこに込められた考案者の意図が異なる場
合であっても,実質的に同等であると判断できる.本研究による知見は以下のとおりである.(1)攻撃手法の優劣
や,攻撃手法間の類似性は固定的ではなく,防御手法との組み合わせごとに変化すること,(2)最近に提案された攻
撃手法ほど強いとは限らず,最初期に提案された一部の攻撃手法は依然として強いこと,(3)攻撃手法の優劣は,識
別境界から近いサンプルに対する攻撃をいかに成功できるかに依存すること. |
(英) |
In this study, we propose a method for identifying the characteristics of attack methods by operating them as “samples” as the first step in defending against adversarial attacks, which are recognized as a serious vul- nerability in machine learning. We call this “dynamic analysis” in this study. By observing the success or failure of individual attacks at the sample level, we can determine that the micro behaviours observed by this “dynamic analysis” are practically equivalent to each other, even if the design and the intention of the creator of the algorithms are different. The findings of this study are as follows: (1) the superiority or similarity of attack methods is not fixed, but varies depending on the combination of defense methods; (2) recently proposed attack methods are not necessarily stronger, some attack methods proposed in the early stages are still strong; (3) the superiority of attack methods depends on how successful they can attack samples that are close to the decision boundary. |
キーワード |
(和) |
敵対的サンプル / 動的解析 / / / / / / |
(英) |
Adversarial Example / Dynamic Analysis / / / / / / |
文献情報 |
信学技報, vol. 122, no. 422, ICSS2022-52, pp. 25-30, 2023年3月. |
資料番号 |
ICSS2022-52 |
発行日 |
2023-03-06 (ICSS) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
ICSS2022-52 |