講演抄録/キーワード |
講演名 |
2020-03-11 15:10
公平性が引き起こす敵対的攻撃に対する脆弱性 ○綿岡晃輝・松原 崇・上原邦昭(神戸大) IBISML2019-48 |
抄録 |
(和) |
機械学習モデルを社会で活用する際に, 人種や性別に対して公平にすることは重要である. 近年, 分類器を 公平にする多くの手法が提案されてきた. しかし, 公平な分類器のセキュリティに関する研究はほとんど見られない. 機械学習の分野には, 分類器の精度を減少させる敵対的攻撃という攻撃方法が存在する. 本研究では, 公平な分類器は 敵対的攻撃に対して脆弱であることを指摘する. 実験において, 公平な分類器は通常よりも敵対的攻撃に対して精度が 下がり, さらに一部の公平性の性能も下がることを示した. |
(英) |
When using machine learning models in society, it is essential to be ensure classifiers are fair to race and gender. In recent yeas, many methods have been proposed to make classifiers fair. However, the security of fair classifiers has been rarely discussed. In the field of machine learning, there is an attack method called adversarial attacks that reduce the accuracy of classifiers. In this paper, fair classifiers are vulnerable to adversarial attacks. Our experiment has shown that fair classifiers are less robust against adversarial attacks than usual classifiers and hence worse classification accuracy and part of fairness performance.
Key words Fairness, Adversarial Attacks, Adversarial Training |
キーワード |
(和) |
公平性 / 敵対的攻撃 / 敵対的訓練 / / / / / |
(英) |
Fairness / Adversarial Attacks / Adversarial Training / / / / / |
文献情報 |
信学技報, vol. 119, no. 476, IBISML2019-48, pp. 101-105, 2020年3月. |
資料番号 |
IBISML2019-48 |
発行日 |
2020-03-03 (IBISML) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2019-48 |
研究会情報 |
研究会 |
IBISML |
開催期間 |
2020-03-10 - 2020-03-11 |
開催地(和) |
京都大学 |
開催地(英) |
Kyoto University |
テーマ(和) |
機械学習一般 |
テーマ(英) |
Machine learning, etc. |
講演論文情報の詳細 |
申込み研究会 |
IBISML |
会議コード |
2020-03-IBISML |
本文の言語 |
日本語 |
タイトル(和) |
公平性が引き起こす敵対的攻撃に対する脆弱性 |
サブタイトル(和) |
|
タイトル(英) |
Fairness Causes Vulnerability to Adversarial Attacks |
サブタイトル(英) |
|
キーワード(1)(和/英) |
公平性 / Fairness |
キーワード(2)(和/英) |
敵対的攻撃 / Adversarial Attacks |
キーワード(3)(和/英) |
敵対的訓練 / Adversarial Training |
キーワード(4)(和/英) |
/ |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
綿岡 晃輝 / Koki Wataoka / ワタオカ コウキ |
第1著者 所属(和/英) |
神戸大学 (略称: 神戸大)
Kobe University (略称: Kobe Univ.) |
第2著者 氏名(和/英/ヨミ) |
松原 崇 / Takashi Matsubara / マツバラ タカシ |
第2著者 所属(和/英) |
神戸大学 (略称: 神戸大)
Kobe University (略称: Kobe Univ.) |
第3著者 氏名(和/英/ヨミ) |
上原 邦昭 / Kuniaki Uehara / ウエハラ クニアキ |
第3著者 所属(和/英) |
神戸大学 (略称: 神戸大)
Kobe University (略称: Kobe Univ.) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2020-03-11 15:10:00 |
発表時間 |
25分 |
申込先研究会 |
IBISML |
資料番号 |
IBISML2019-48 |
巻番号(vol) |
vol.119 |
号番号(no) |
no.476 |
ページ範囲 |
pp.101-105 |
ページ数 |
5 |
発行日 |
2020-03-03 (IBISML) |
|