講演抄録/キーワード |
講演名 |
2020-03-03 11:40
Adversarial Attacks against Electrocardiograms ○Taiga Ono(Waseda Univ.)・Takeshi Sugawara(UEC)・Tatsuya Mori(Waseda Univ.) ICSS2019-90 |
抄録 |
(和) |
本研究は深層学習を用いた自動医療診断システムに対する敵対的攻撃の概念実証を狙いとする.具体的には心電図を入力値として不整脈を検知する分類器に対し,意図的に分類器の出力を変化させるような入力を生成する攻撃を提案し,その評価を行う.はじめに提案手法をソフトウェア実装し,心拍の実計測データを用いて評価した.この結果,物理的制約を満たすべく,波形に大幅な制限を加えた状態にあっても,高確率で攻撃が成功することを明らかにした.つぎに提案手法をハードウェア実装し,物理世界での実用性を評価した.この結果,40回の試行で3--5件の攻撃成功を実現した.また,こうした攻撃が自動医療診断システムに対して引き起こす脅威と具体的な攻撃シナリオを議論する. |
(英) |
Recent advancements in clinical services powered by deep learning have been met with the threat of Adversarial Examples. The exact methods in which adversaries may utilize Adversarial Examples in certain attack scenarios, however, are still unclear. Our research presents a proof-of-concept attack to show that adversaries are able to utilize Adversarial Examples of electrocardiograms to take advantage of carelessly implemented diagnostic systems for cardiology. Adversarial perturbations are introduced into ECG readings via hardware manipulation, and the resulting hardware attack successfully manipulates the diagnosis results of a healthy patient 3--5 times throughout 40 tries, potentially allowing adversaries to influence clinical decisions. |
キーワード |
(和) |
深層学習 / Adversarial Examples / Hardware / / / / / |
(英) |
DNN / Adversarial Examples / Hardware / / / / / |
文献情報 |
信学技報, vol. 119, no. 437, ICSS2019-90, pp. 131-136, 2020年3月. |
資料番号 |
ICSS2019-90 |
発行日 |
2020-02-24 (ICSS) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
ICSS2019-90 |