| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-03-04 09:12 人間と機械学習モデルの両者をだますAdversarial Exampleの作成方法 ○藤森 洸（早大）・芝原俊樹（NTT）・千葉大紀（NTTセキュリティ）・秋山満昭（NTT）・内田真人（早大）  PRMU2023-65 |
|
| 抄録 | （和） | ニューラルネットワークに対する脆弱性攻撃の一つとして、入力データに微小なノイズを加えることで作為的に誤分類を誘発させるAdversarial Example（AE）がある。 AEによる「攻撃成功」は、ノイズを人間に認識されることなく機械学習モデルを誤分類させることとして定義される。 しかし、AEの攻撃手法に関する既存研究では、機械学習モデルを誤分類させることのみが着目されており、ノイズの視認性について評価していない場合がある。 代表的な攻撃手法であるFast Gradient Sign Methodが提案された論文で行われた評価実験と同じ条件下で作成されたAEは、大多数がノイズを視認できることが確認されている。 そこで本研究では，視覚的に自然に見えるAEの作成方法を提案する。 |
| （英） | One of the vulnerability attacks against neural networks is the generation of Adversarial Examples (AE), which induce misclassification by adding minimal noise to input data. The ``attack success'' by AE is defined as causing a machine learning model to misclassify without the noise being recognized by humans. However, existing research on AE attack methods often focuses solely on causing misclassification of machine learning models and may not evaluate the visibility of the noise. Evaluation experiments conducted in the same conditions as the paper that proposed the prominent attack method, the Fast Gradient Sign Method, have confirmed that the majority of AEs are perceptible with noise. Therefore, in this study, we propose a method for creating AEs that appear visually natural. |
|
| キーワード | （和） | Adversarial Example / Fast Gradient Sign Method / ノイズの視認性 / ユーザ調査 / / / / |
| （英） | Adversarial Example / Fast Gradient Sign Method / Noise Visibility / User Surveys / / / / | |
| 文献情報 | 信学技報, vol. 123, no. 409, PRMU2023-65, pp. 82-87, 2024年3月. | |
| 資料番号 | PRMU2023-65 | |
| 発行日 | 2024-02-25 (PRMU) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | PRMU2023-65 |
|
| 研究会情報 | |
| 研究会 | PRMU IBISML IPSJ-CVIM |
| 開催期間 | 2024-03-03 - 2024-03-04 |
| 開催地（和） | 広島大学 東広島キャンパス |
| 開催地（英） | Hiroshima Univ. Higashi-Hiroshima campus |
| テーマ（和） | 雑多なデータセットの有効活用 (PRMU/IPSJ-CVIM)、機械学習の理論と応用の広がり (IBISML) |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | PRMU |
| 会議コード | 2024-03-PRMU-IBISML-CVIM |
| 本文の言語 | 日本語 |
| タイトル（和） | 人間と機械学習モデルの両者をだますAdversarial Exampleの作成方法 |
| サブタイトル（和） | |
| タイトル（英） | Creating Adversarial Examples to Deceive Both Humans and Machine Learning Models |
| サブタイトル（英） | |
| キーワード(1)（和/英） | Adversarial Example / Adversarial Example |
| キーワード(2)（和/英） | Fast Gradient Sign Method / Fast Gradient Sign Method |
| キーワード(3)（和/英） | ノイズの視認性 / Noise Visibility |
| キーワード(4)（和/英） | ユーザ調査 / User Surveys |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 藤森 洸 / Ko Fujimori / フジモリ コウ |
| 第1著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 芝原 俊樹 / Toshiki Shibahara / シバハラ トシキ |
| 第2著者 所属（和/英） | 日本電信電話株式会社 (略称： NTT) Nippon Telegraph And Telephone Corporation (略称： NTT) |
| 第3著者 氏名（和/英/ヨミ） | 千葉 大紀 / Daiki Chiba / チバ ダイキ |
| 第3著者 所属（和/英） | NTTセキュリティホールディングス (略称： NTTセキュリティ) NTT Security Holdings (略称： NTT Security) |
| 第4著者 氏名（和/英/ヨミ） | 秋山 満昭 / Mitsuaki Akiyama / アキヤマ ミツアキ |
| 第4著者 所属（和/英） | 日本電信電話株式会社 (略称： NTT) Nippon Telegraph And Telephone Corporation (略称： NTT) |
| 第5著者 氏名（和/英/ヨミ） | 内田 真人 / Masato Uchida / ウチダ マサト |
| 第5著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-03-04 09:12:00 |
| 発表時間 | 12分 |
| 申込先研究会 | PRMU |
| 資料番号 | PRMU2023-65 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | no.409 |
| ページ範囲 | pp.82-87 |
| ページ数 | 6 |
| 発行日 | 2024-02-25 (PRMU) |
[研究会発表申込システムのトップページに戻る]