| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2020-03-05 16:45 ［ポスター講演］非可逆圧縮の圧縮率の変化に伴う挙動解析に基づく敵対的事例の検知法 ○東 亮憲・栗林 稔・舩曵信生（岡山大）・Huy Hong Nguyen・越前 功（NII）  EMM2019-123 |
|
| 抄録 | （和） | 敵対的事例は，CNN 画像分類器が誤って識別するように意図的に造られた小さな摂動を入力に加える攻撃であり，その摂動を人間が視覚的に認識することは困難である．CSS2019 では，敵対的事例に加えられた微小なノイズを非可逆圧縮を用いて除去することで識別クラスが変動する性質に着目し，圧縮品質を徐々に下げた場合のCNN画像分類器の出力の変化を特徴として敵対的事例を検知する手法を提案した．本研究では，計算量削減のために圧縮品質を変化させる間隔を大きくした際に，敵対的事例の分類精度がどのように影響するかを調べた．その結果，数パターンの圧縮品質での出力だけでも高い精度で敵対的事例を分類できることが分かった．また，画像の縮小の際に情報が削減される処理をノイズ除去フィルタとして用いた場合も同様に高い精度で分類できることが確認された． |
| （英） | The adversarial examples are created by adding small perturbations to an input image for misleading an CNN-based image classifier into a wrong class, and it is difficult for humans to visually recognize the perturbation. In CSS 2019, we focused on the property that the discrimination class fluctuates by removing the tiny noise added to the adversarial examples using the lossy compression. And we proposed a method to detect the adversarial examples by counting the number of changes in the output of CNN classifier when compression quality is gradually reduced. In this study, we examined how the detecting accuracy of adversarial examples is affected by increasing the interval of changing compression quality in order to reduce the computational complexity. As a result, it was found that it is possible to detect the adversarial examples with high accuracy from the observation of a few patterns. As the scaling down operation removes the entropy in an input image, the effects of the scaling down and then scaling up are similar to that of lossy compression. Hence, we gradually change the scaling down parameter and count the number of changes in the output of CNN classifier. It is confirmed from experiments that the detection accuracy is also comparable to the case of JPEG compression. | |
| キーワード | （和） | 敵対的事例 / 非可逆圧縮 / CNN / 画像分類器 / / / / |
| （英） | Adversarial Example / Lossy Compression / CNN / Image Classifier / / / / | |
| 文献情報 | 信学技報, vol. 119, no. 463, EMM2019-123, pp. 113-116, 2020年3月. | |
| 資料番号 | EMM2019-123 | |
| 発行日 | 2020-02-27 (EMM) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EMM2019-123 |
|
| 研究会情報 | |
| 研究会 | EMM |
| 開催期間 | 2020-03-05 - 2020-03-06 |
| 開催地（和） | 大濱信泉記念館（石垣島） |
| 開催地（英） | |
| テーマ（和） | 画質・音質評価，知覚・認知メトリクス，人間視聴覚システム，一般 |
| テーマ（英） | Image and Sound Quality, Metrics for Perception and Recognition, Human Auditory and Visual System, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | EMM |
| 会議コード | 2020-03-EMM |
| 本文の言語 | 日本語 |
| タイトル（和） | 非可逆圧縮の圧縮率の変化に伴う挙動解析に基づく敵対的事例の検知法 |
| サブタイトル（和） | |
| タイトル（英） | Detecting Adversarial Examples Based on Sensitivities to Lossy Compression Algorithms |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 敵対的事例 / Adversarial Example |
| キーワード(2)（和/英） | 非可逆圧縮 / Lossy Compression |
| キーワード(3)（和/英） | CNN / CNN |
| キーワード(4)（和/英） | 画像分類器 / Image Classifier |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 東 亮憲 / Akinori Higashi / ヒガシ アキノリ |
| 第1著者 所属（和/英） | 岡山大学 (略称： 岡山大) Okayama University (略称： Okayama Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 栗林 稔 / Minoru Kuribayashi / クリバヤシ ミノル |
| 第2著者 所属（和/英） | 岡山大学 (略称： 岡山大) Okayama University (略称： Okayama Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 舩曵 信生 / Nobuo Funabiki / フナビキ ノブオ |
| 第3著者 所属（和/英） | 岡山大学 (略称： 岡山大) Okayama University (略称： Okayama Univ.) |
| 第4著者 氏名（和/英/ヨミ） | Huy Hong Nguyen / Huy Hong Nguyen / |
| 第4著者 所属（和/英） | 国立情報学研究所 (略称： NII) National Institute of Informatics (略称： NII) |
| 第5著者 氏名（和/英/ヨミ） | 越前 功 / Isao Echizen / エチゼン イサオ |
| 第5著者 所属（和/英） | 国立情報学研究所 (略称： NII) National Institute of Informatics (略称： NII) |
| 講演者 | 第1著者 |
| 発表日時 | 2020-03-05 16:45:00 |
| 発表時間 | 60分 |
| 申込先研究会 | EMM |
| 資料番号 | EMM2019-123 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | no.463 |
| ページ範囲 | pp.113-116 |
| ページ数 | 4 |
| 発行日 | 2020-02-27 (EMM) |
[研究会発表申込システムのトップページに戻る]