| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2021-03-04 14:15 ［ポスター講演］複数のフィルタ強度によるCNN画像分類器の応答特性を用いた敵対的事例の検出法 ○東 亮憲・栗林 稔・舩曵信生（岡山大）・Huy Hong Nguyen・越前 功（NII）  EMM2020-70 |
|
| 抄録 | （和） | 悪意のあるノイズが混入された画像，音声，動画は，敵対的事例と呼ばれ，意図的に機械学習システムの出力を誤らせることから問題となっている．本稿では，画像分類器の感度を利用して敵対的事例を検出する新しい手法を提案する．提案手法では，入力画像に適用させるノイズ除去フィルタの強さを変化させることで画像分類器の出力を観察し，敵対的事例であるか否かを判定する．フィルタ強度を徐々に大きくするほど，画像のエントロピは減少し，敵対的なノイズも同様に除去すると考えられる．したがって，フィルタの強さを変化させると，画像分類器のsoftmax関数の出力は，敵対的事例の場合には大きく変化するが，正常な画像の場合には安定することが予想される．ノイズ除去操作に対する応答特性を用いて敵対的事例を検出するためのフレームワークを構築し，典型的な敵対的事例生成攻撃に対して実験を行い，その性能を定量的に評価した． |
| （英） | Deep learning has been used as a new method for machine learning, and its performance has been significantly improved. Adversarial examples are known as attacks to machine learning system by injecting malicious noise to inputs such as images, sounds, videos so as to fool the system. Research on fooling image classifiers has been reported as a potential threat to CNN-based systems. In this paper, we propose a new method for detecting adversarial examples by using the sensibilities of image classifiers. Since adversarial examples are generated by adding noise, we focus on the behavior of the output of the image classifier to the noise removal filter. We change the strength of the noise removal filter and observe its output to determine whether it is an adversarial example or not. With the increase of the filter strength, the entropy of the image is expected to decrease and adversarial noises are removed as well. Therefore, the output of the softmax function of the image classifier is expected to change significantly in the case of adversarial examples, while it is stable in the case of normal images. A framework for detecting simple adversarial examples by using the response characteristics to noise removal operations. We conducted experiments against typical adversarial example generating attacks and quantitatively evaluated its performance. | |
| キーワード | （和） | 敵対的事例 / ノイズ除去フィルタ / CNN / 画像分類器 / / / / |
| （英） | Adversarial Example / Noise Removal Filter / CNN / Image Classifier / / / / | |
| 文献情報 | 信学技報, vol. 120, no. 418, EMM2020-70, pp. 19-24, 2021年3月. | |
| 資料番号 | EMM2020-70 | |
| 発行日 | 2021-02-25 (EMM) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EMM2020-70 |
|
| 研究会情報 | |
| 研究会 | EMM |
| 開催期間 | 2021-03-04 - 2021-03-05 |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | 画質・音質評価，知覚・認知メトリクス，人間視聴覚システム，一般 |
| テーマ（英） | Image and Sound Quality, Metrics for Perception and Recognition, Human Auditory and Visual System, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | EMM |
| 会議コード | 2021-03-EMM |
| 本文の言語 | 日本語 |
| タイトル（和） | 複数のフィルタ強度によるCNN画像分類器の応答特性を用いた敵対的事例の検出法 |
| サブタイトル（和） | |
| タイトル（英） | Detection of Adversarial Examples in CNN Image Classifiers Using Features Extracted with Multiple Strengths of Filter |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 敵対的事例 / Adversarial Example |
| キーワード(2)（和/英） | ノイズ除去フィルタ / Noise Removal Filter |
| キーワード(3)（和/英） | CNN / CNN |
| キーワード(4)（和/英） | 画像分類器 / Image Classifier |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 東 亮憲 / Akinori Higashi / |
| 第1著者 所属（和/英） | 岡山大学 (略称： 岡山大) Okayama University (略称： Okayama Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 栗林 稔 / Minoru Kuribayashi / ミノル クリバヤシ |
| 第2著者 所属（和/英） | 岡山大学 (略称： 岡山大) Okayama University (略称： Okayama Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 舩曵 信生 / Nobuo Funabiki / フナビキ ノブオ |
| 第3著者 所属（和/英） | 岡山大学 (略称： 岡山大) Okayama University (略称： Okayama Univ.) |
| 第4著者 氏名（和/英/ヨミ） | Huy Hong Nguyen / Huy Hong Nguyen / |
| 第4著者 所属（和/英） | 国立情報学研究所 (略称： NII) National Institute of Informatics (略称： NII) |
| 第5著者 氏名（和/英/ヨミ） | 越前 功 / Isao Echizen / エチゼン イサオ |
| 第5著者 所属（和/英） | 国立情報学研究所 (略称： NII) National Institute of Informatics (略称： NII) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2021-03-04 14:15:00 |
| 発表時間 | 15分 |
| 申込先研究会 | EMM |
| 資料番号 | EMM2020-70 |
| 巻番号（vol） | vol.120 |
| 号番号（no） | no.418 |
| ページ範囲 | pp.19-24 |
| ページ数 | 6 |
| 発行日 | 2021-02-25 (EMM) |
[研究会発表申込システムのトップページに戻る]