講演抄録/キーワード |
講演名 |
2022-06-24 10:25
敵対的サンプルを用いた心電図に対する物理攻撃手法の評価 ○小野大河(早大)・菅原 健(電通大)・佐久間 淳(筑波大/理研)・森 達哉(早大/理研/NICT) IA2022-11 ICSS2022-11 |
抄録 |
(和) |
本研究は深層学習を用いた自動医療診断システムに対する敵対的攻撃の概念実証を狙いとする.
具体的には心電図を入力値として不整脈を検知する分類器に対し,意図的に分類器の出力を変化させるような入力を生成する攻撃をハードウェア実装し,物理世界での実用性を評価した.この結果, およそ42.1%の確率で心筋症の検知を偽装する攻撃を実現した. また,こうした攻撃が自動医療診断システムに対して引き起こす脅威と攻撃シナリオを議論する. |
(英) |
This work aims to assess the reality and feasibility of applying adversarial examples to attack cardiac diagnosis systems powered by machine learning algorithms. To this end, we introduce "adversarial beats", which are adversarial perturbations tailored specifically against classification systems designed to diagnose electrocardiograms (ECGs). We formulate an algorithm to generate adversarial beats, and evaluate their feasibility in a physical environment by designing a hardware attack. To the best of our knowledge, our work is the first in evaluating the proficiency of adversarial examples for ECGs in a physical setup. Our real-world experiments demonstrate that against an automated ECG diagnosis setup, we can leverage our proposed method to fake the presence of potential signs of cardiomyopathy with approximately 42.1% chance of success. We conclude that our proposed method can be leveraged by attackers to influence clinical decisions, which could be applied to fraudulent clinical transactions. |
キーワード |
(和) |
深層学習 / 敵対的サンプル / ハードウェア / / / / / |
(英) |
DNN / Adversarial Examples / Hardware / / / / / |
文献情報 |
信学技報, vol. 122, no. 86, ICSS2022-11, pp. 61-66, 2022年6月. |
資料番号 |
ICSS2022-11 |
発行日 |
2022-06-16 (IA, ICSS) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IA2022-11 ICSS2022-11 |
|