講演抄録/キーワード |
講演名 |
2024-02-19 10:45
輝度補正を用いたAdversarial Examplesの対策手法 ○東條巧弥・熊谷 瞭・竹本 修・野崎佑典・吉川雅弥(名城大) ITS2023-47 IE2023-36 |
抄録 |
(和) |
近年,深層学習AIを用いた画像分類は車載AIなどに用いられ,その精度や応答速度が重要となっている.日本でも福井県で自動運転レベル4の移動サービスが運用されていたように,自動運転レベル4の実用化に向けた動きが活発になってきている.しかし,このような画像分類AIへの攻撃手法も報告されており,その内の一つに微少な摂動を用いて誤分類を引き起こさせる敵対的サンプルが挙げられる.そこで,提案手法として車載カメラなどで敵対的サンプルを含む画像を取り込んだ際に,輝度補正を行い,画像分類AIに入力することで摂動の影響を低減する手法を提案する.提案手法は,現在の代表的なAE対策手法である敵対的学習と比較して,追加の学習データ等が不要な対策である.提案手法の実現のため,本研究ではソフトウェア上で敵対的サンプルを入力し,輝度補正が敵対的サンプルに与える影響を検証した.また,評価実験により輝度補正の効果を確認した. |
(英) |
Recently, image classification using deep learning AI has been used for in-vehicle AI, and its accuracy and response speed have become important. However, it has been reported that there are attack methods against such image inference AI, one of which is Adversarial Examples that cause misclassification. Therefore, we propose a method to reduce the effect of perturbation by applying image processing luminance correction to images with Adversarial Examples and inputting them to the image inference AI. To realize the proposed method, we have verified the impact of luminance correction by inputting Adversarial Examples in software. |
キーワード |
(和) |
AIセキュリティ / 敵対的サンプル / 画像処理 / 輝度 / / / / |
(英) |
AI security / adversarial examples / image processing / luminance / / / / |
文献情報 |
信学技報, vol. 123, no. 381, IE2023-36, pp. 7-12, 2024年2月. |
資料番号 |
IE2023-36 |
発行日 |
2024-02-12 (ITS, IE) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
ITS2023-47 IE2023-36 |
|