| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-01-19 13:30 ［招待講演］CNN画像分類器に対する敵対的攻撃の問題とその対策 ○栗林 稔（東北大）  IT2023-67 SIP2023-100 RCS2023-242 |
|
| 抄録 | （和） | 深層学習技術を用いた識別モデルに対して，人の知覚できないほどの僅かなノイズを加えることで，誤った認識結果を引き起こさせる敵対的攻撃が問題となっている．人と機械との認知メカニズムの違いから，機械学習技術全般において潜在的に有する脆弱性であると理解することもできる．誤識別されるように生成された微小なノイズを加えることで敵対的サンプル画像が作成されることから，そのノイズの影響を抑えるアプローチを考えたい．敵対的サンプル画像にノイズ除去処理を施せば，CNN画像分類器から出力される確信度の値は，ノイズ除去フィルタの特性に応じて変化する．それらの変化量に着目し，特徴成分として取り出した上で解析することで，敵対的サンプル画像を事前に検知することや，敵対的ノイズを適切に除去する研究が進んでいる．本講演では，CNN画像分類器における敵対的攻撃の脅威について，誤認識を引き起こす原因の説明から，その対策として研究されている技術の紹介を行う． |
| （英） | It is well-known that discriminative models based on deep learning techniques may cause misclassification if adversarial perturbations which are difficult to perceive by humans are added to input signals. This can be understood as a potential vulnerability of machine learning technologies in general, due to the difference in cognitive mechanisms between humans and machines. Since adversarial images are created by adding tiny noise, it has been studied to consider an approach to suppress the effect of the noise. When the adversarial image is filtered, the confidence vector output from the CNN image classifier changes according to the characteristics of the denoising filter. By focusing on these changes and extracting them as feature components for analysis, research has been conducted to detect adversarial images and to remove adversarial perturbations appropriately. In this talk, the threat of adversarial attacks on CNN-based image classifiers is explained, and discuss the countermeasures to protect the models against adversarial attacks. |
|
| キーワード | （和） | 敵対的攻撃 / CNN画像分類器 / ノイズ除去フィルタ / 敵対的サンプルの検出 / 浄化 / / / |
| （英） | adversarial attack / CNN-based image classifier / denoising filter / detection of adversarial examples / adversarial purification / / / | |
| 文献情報 | 信学技報, vol. 123, no. 339, SIP2023-100, pp. 204-204, 2024年1月. | |
| 資料番号 | SIP2023-100 | |
| 発行日 | 2024-01-11 (IT, SIP, RCS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IT2023-67 SIP2023-100 RCS2023-242 |
|
| 研究会情報 | |
| 研究会 | SIP IT RCS |
| 開催期間 | 2024-01-18 - 2024-01-19 |
| 開催地（和） | 東北大学 青葉記念会館 |
| 開催地（英） | |
| テーマ（和） | 無線通信のための信号処理，学習，数理，情報理論および一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SIP |
| 会議コード | 2024-01-SIP-IT-RCS |
| 本文の言語 | 日本語 |
| タイトル（和） | CNN画像分類器に対する敵対的攻撃の問題とその対策 |
| サブタイトル（和） | |
| タイトル（英） | Problem of Adversarial Attacks on CNN-based Image Classifiers and Countermeasures |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 敵対的攻撃 / adversarial attack |
| キーワード(2)（和/英） | CNN画像分類器 / CNN-based image classifier |
| キーワード(3)（和/英） | ノイズ除去フィルタ / denoising filter |
| キーワード(4)（和/英） | 敵対的サンプルの検出 / detection of adversarial examples |
| キーワード(5)（和/英） | 浄化 / adversarial purification |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 栗林 稔 / Minoru Kuribayashi / クリバヤシ ミノル |
| 第1著者 所属（和/英） | 東北大学 (略称： 東北大) Tohoku University (略称： Tohoku Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-01-19 13:30:00 |
| 発表時間 | 50分 |
| 申込先研究会 | SIP |
| 資料番号 | IT2023-67, SIP2023-100, RCS2023-242 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | no.338(IT), no.339(SIP), no.340(RCS) |
| ページ範囲 | p.204 |
| ページ数 | 1 |
| 発行日 | 2024-01-11 (IT, SIP, RCS) |
[研究会発表申込システムのトップページに戻る]