| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-07-22 16:40 物理乱数を用いたDenoising Auto EncoderによるAdversarial Examples攻撃への防御性能に関する検討 ○櫓木悠生・吉田康太・大山達哉・藤野 毅・大倉俊介（立命館大）  ISEC2024-38 SITE2024-35 BioX2024-48 HWS2024-38 ICSS2024-42 EMM2024-44 |
|
| 抄録 | （和） | IoT(Internet of Things)ですべての人とモノがつながり, 様々な知識や情報が共有され, 今までにない新たな価値を生み出すことが期待されている. フィジカル空間のセンサからの膨大な情報はサイバー空間に蓄積され, このビックデータをAI が解析し, 解析結果がフィジカル空間に様々な形でフィードバックされる. ここで, プライバシー保護やリアルタイム応答のために, フィジカル空間に配置したエッジデバイス内でセンサからの情報を処理するエッジAI が注目されている. エッジAI への攻撃の一つとして, CNN(Convolutional Neural Network)への入力に対して微小なノイズ(摂動)を付加することで, 作為的に誤認識を引き起こすAEs(Adversarial Examples)攻撃がある. エッジAIに対するAEs攻撃に対する1つの解決策として, 摂動攪乱ノイズを付加してからDAE (Denoising Autoencoder)を用いることによって敵対的摂動を取り除く防御手法が提案されている. 本稿では, まず, 予測可能な疑似乱数ノイズを利用した場合, 摂動攪乱ノイズを利用する防御手法の有効性が低いことを示す. 次に, イメージセンサで生成される熱雑音に基づく予測不可能なノイズを利用する防御手法と, 熱雑音用の前処理手法を提案する. イメージセンサの熱雑音を測定し, 前処理により生成した摂動攪乱ノイズを NIST 800-22乱数検定で評価した結果, 全ての項目が合格し, 高いランダム性を持つことを確認した. NIST 800-90B乱数検定で評価した結果, イメージセンサに起因する熱雑音のMin-Entropy は, $0.74$であると推定された. さらに, AEs攻撃に対する防御性能が$24%$向上することを確認した. |
| （英） | With the development of IoT technology, edge AI has attracted widespread attention. However, edge AI shows vulnerability to adversarial example (AE) attacks, where invisible small perturbations can cause a convolutional neural network (CNN) to misclassify input images. Defense methods that add disturbance noise to the input images have been proposed as a solution to AE attacks on edge AI. In this paper, we first show that the defense method using disturbance noise is less effective when the noise generated (e.g., with an arithmetic algorithm) is predictable. Therefore, we propose a defense method using unpredictable noise based on thermal noise generated by an image sensor, along with a post-processing method for the thermal noise. An image sensor was utilized to generate $textbf{5}$-bit disturbance noise for defense against AE attacks based on thermal noise. Using the NIST 800-22 random number test, all items passed with high probability, indicating high randomness. As a result of evaluating using NIST 800-90B random number test, the Min-Entropy of thermal noise caused by image sensor was estimated to be $0.74$. It is also confirmed that the defense performance was improved by $textbf{24%}$ when using the proposed post-processing approach. |
|
| キーワード | （和） | CMOSイメージセンサー / エッジAI / ハードウェアセキュリティ / 画像認識 / 真正乱数 / / / |
| （英） | CMOS image sensors / edge AI / hardware security / Image recognition / true random numbers / / / | |
| 文献情報 | 信学技報, vol. 124, no. 123, HWS2024-38, pp. 194-199, 2024年7月. | |
| 資料番号 | HWS2024-38 | |
| 発行日 | 2024-07-15 (ISEC, SITE, BioX, HWS, ICSS, EMM) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | ISEC2024-38 SITE2024-35 BioX2024-48 HWS2024-38 ICSS2024-42 EMM2024-44 |
|
| 研究会情報 | |
| 研究会 | EMM BioX ISEC SITE ICSS HWS IPSJ-CSEC IPSJ-SPT |
| 開催期間 | 2024-07-22 - 2024-07-23 |
| 開催地（和） | 札幌コンベンションセンター |
| 開催地（英） | Sapporo Convention Center |
| テーマ（和） | セキュリティ、一般 （セキュリティサマーサミット2024） |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | HWS |
| 会議コード | 2024-07-EMM-BioX-ISEC-SITE-ICSS-HWS-CSEC-SPT |
| 本文の言語 | 日本語 |
| タイトル（和） | 物理乱数を用いたDenoising Auto EncoderによるAdversarial Examples攻撃への防御性能に関する検討 |
| サブタイトル（和） | |
| タイトル（英） | Defending against adversarial example attacks by a denoising autoencoder and physical random noise |
| サブタイトル（英） | |
| キーワード(1)（和/英） | CMOSイメージセンサー / CMOS image sensors |
| キーワード(2)（和/英） | エッジAI / edge AI |
| キーワード(3)（和/英） | ハードウェアセキュリティ / hardware security |
| キーワード(4)（和/英） | 画像認識 / Image recognition |
| キーワード(5)（和/英） | 真正乱数 / true random numbers |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 櫓木 悠生 / Yuki Rogi / ロギ ユウキ |
| 第1著者 所属（和/英） | 立命館大学 (略称： 立命館大) Ritsumeikan University (略称： Ritsumeikan Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 吉田 康太 / Kota Yoshida / ヨシダ コウタ |
| 第2著者 所属（和/英） | 立命館大学 (略称： 立命館大) Ritsumeikan University (略称： Ritsumeikan Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 大山 達哉 / Tatsuya Oyama / オオヤマ タツヤ |
| 第3著者 所属（和/英） | 立命館大学 (略称： 立命館大) Ritsumeikan University (略称： Ritsumeikan Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 藤野 毅 / Takeshi Fujino / フジノ タケシ |
| 第4著者 所属（和/英） | 立命館大学 (略称： 立命館大) Ritsumeikan University (略称： Ritsumeikan Univ.) |
| 第5著者 氏名（和/英/ヨミ） | 大倉 俊介 / Shunsuke Okura / オオクラ シュンスケ |
| 第5著者 所属（和/英） | 立命館大学 (略称： 立命館大) Ritsumeikan University (略称： Ritsumeikan Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-07-22 16:40:00 |
| 発表時間 | 25分 |
| 申込先研究会 | HWS |
| 資料番号 | ISEC2024-38, SITE2024-35, BioX2024-48, HWS2024-38, ICSS2024-42, EMM2024-44 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.120(ISEC), no.121(SITE), no.122(BioX), no.123(HWS), no.124(ICSS), no.125(EMM) |
| ページ範囲 | pp.194-199 |
| ページ数 | 6 |
| 発行日 | 2024-07-15 (ISEC, SITE, BioX, HWS, ICSS, EMM) |
[研究会発表申込システムのトップページに戻る]