| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2020-03-02 13:00 ブラックボックス型敵対的攻撃に対する話者照合システムの脆弱性に関する調査 ○甲斐優人・塩田さやか・貴家仁志（首都大東京）  EA2019-106 SIP2019-108 SP2019-55 |
|
| 抄録 | （和） | 近年，機械学習に基づくシステムへの敵対的攻撃に対する脆弱性が危惧されている．敵対的攻撃とは，あるデータに人間には知覚ができない程度の微妙な摂動を敵対的構造になっているニューラルネットワークを用いることで推定し，元の音声に付与させることでシステムの認識結果を故意に変えるものである．ネットバンキングやネットショッピングなどの利用時に，本人確認の主な手段として使用されている生体認証システムにおいても，敵対的攻撃に対する脆弱性が指摘されている．生体認証の1つである話者照合においても同様であるが実験的にはその頑健性が示されていなかった．そこで本研究では，攻撃対象となるシステムの内部を想定しないブラックボックス型敵対的攻撃に着目し，照合精度の変化を調査した．実験では，生成された敵対的サンプルとランダムなホワイトノイズを重畳した音声を複数の話者照合システムに入力して評価し，敵対的攻撃に対する話者照合の脆弱性について分析した．それぞれの照合精度の変化の結果から，ブラックボックス型の敵対的攻撃であっても敵対的攻撃特有の摂動を付与した音声の方が，ランダムに生成されたホワイトノイズを重畳した音声よりも照合性能を大幅に低下させることがわかった． |
| （英） | Recently，vulnerability against adversarial attacks is being feared for machine learning-based systems．Adversarial attacks are aimed to intentionally change results of systems based on machine learning algorithms. Data which a small noise is added to an original speech are called perturbation. The perturbation is estimated by using adversarial structured neural networks, and the generated data are almost indistinguishable by a human when compared to the original data. Biometric authentication systems which are used as a primarily means for user authentication in applications like internet banking and online shopping are also pointed out in terms of vulnerability against such adversarial attacks. The same can be said for speaker verification (SV), one of the biometric authentication，however its robustness has not been indicated experimentally. Therefore，we investigated the change in accuracy when attacking a system where the internal design is unexpected using adversarial attacks．In our experiments，we have evaluated the results when inputting generated adversarial examples and audios mixed with white noise to SV systems，and analyzed the vulnerability of speaker verification against adversarial attacks．From the results, the performances of SV systems became worse when the generated adversarial examples were inputted, compared with audio with white noise were inputted. | |
| キーワード | （和） | 敵対的攻撃 / 話者照合 / ブラックボックス型攻撃 / / / / / |
| （英） | adversarial attack / speaker verification / black-box attack / / / / / | |
| 文献情報 | 信学技報, vol. 119, no. 441, SP2019-55, pp. 29-33, 2020年3月. | |
| 資料番号 | SP2019-55 | |
| 発行日 | 2020-02-24 (EA, SIP, SP) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EA2019-106 SIP2019-108 SP2019-55 |
|
| 研究会情報 | |
| 研究会 | SP EA SIP |
| 開催期間 | 2020-03-02 - 2020-03-03 |
| 開催地（和） | 沖縄産業支援センター |
| 開催地（英） | Okinawa Industry Support Center |
| テーマ（和） | 音声，応用／電気音響，信号処理，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SP |
| 会議コード | 2020-03-SP-EA-SIP |
| 本文の言語 | 日本語 |
| タイトル（和） | ブラックボックス型敵対的攻撃に対する話者照合システムの脆弱性に関する調査 |
| サブタイトル（和） | |
| タイトル（英） | Vulnerability investigation of speaker verification against black-box adversarial attacks |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 敵対的攻撃 / adversarial attack |
| キーワード(2)（和/英） | 話者照合 / speaker verification |
| キーワード(3)（和/英） | ブラックボックス型攻撃 / black-box attack |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 甲斐 優人 / Hiroto Kai / カイ ヒロト |
| 第1著者 所属（和/英） | 首都大学東京 (略称： 首都大東京) Tokyo Metropolitan University (略称： TMU) |
| 第2著者 氏名（和/英/ヨミ） | 塩田 さやか / Sayaka Shiota / シオタ サヤカ |
| 第2著者 所属（和/英） | 首都大学東京 (略称： 首都大東京) Tokyo Metropolitan University (略称： TMU) |
| 第3著者 氏名（和/英/ヨミ） | 貴家 仁志 / Hitoshi Kiya / キヤ ヒトシ |
| 第3著者 所属（和/英） | 首都大学東京 (略称： 首都大東京) Tokyo Metropolitan University (略称： TMU) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2020-03-02 13:00:00 |
| 発表時間 | 90分 |
| 申込先研究会 | SP |
| 資料番号 | EA2019-106, SIP2019-108, SP2019-55 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | no.439(EA), no.440(SIP), no.441(SP) |
| ページ範囲 | pp.29-33 |
| ページ数 | 5 |
| 発行日 | 2020-02-24 (EA, SIP, SP) |
[研究会発表申込システムのトップページに戻る]