講演抄録/キーワード |
講演名 |
2023-06-29 15:10
深層学習によるSaliency Mapに対する選択的推論 ○三輪大貴(名工大)・Vo Nguyen Le Duy(理研)・白石智洸(名大)・竹内一郎(名大/理研) NC2023-5 IBISML2023-5 |
抄録 |
(和) |
近年,幅広い分野において,DNNモデルを使用した画像分類が行われているが,その予測はブラックボックス的である.
そのため,予測根拠を可視化する手法(Saliency Map)が提案されているが,その結果の信頼性については多くの問題が指摘されている.そこで,統計的仮説検定の枠組みによって,Saliency Mapの信頼性の評価することを考える.しかし,従来の統計的仮説検定ではDNNによる選択バイアスの影響により,妥当な検定を行うことはできない.
本研究では,近年盛んに研究が行われている選択的推論を導入し,Type I Error Rateを制御できる妥当な検定を提案する.また,Saliency Mapの1つであるGrad-camに対して,本手法を適用した結果について報告する.
k |
(英) |
The usefulness of image classification using DNN models has been confirmed in various fields, but the prediction mechanism of these models cannot be fully understood. Therefore, a type of methods called Saliency Map has been proposed to visualize the explanation of predictions, but issues regarding the reliability of the results have been pointed out. In this study, we consider evaluating the reliability of Saliency Map using the framework of statistical hypothesis testing. Unfortunately, conventional statistical hypothesis testing cannot perform valid tests due to the selection bias caused by DNNs. Therefore, we introduce the concept of selective inference, which has been actively studied in recent years, and propose a valid testing method that can properly control Type I Error Rate.
In this paper, we specifically report the results when the proposed method is applied to saliency maps obtained by Grad-cam, one of the most frequently used Saliency Map techniques. |
キーワード |
(和) |
選択的推論 / 統計的仮説検定 / 顕著性マップ / 深層学習 / / / / |
(英) |
Selective Inference / Statistical Hypothesis Testing / Saliency Map / Deep Learning / / / / |
文献情報 |
信学技報, vol. 123, no. 91, IBISML2023-5, pp. 30-34, 2023年6月. |
資料番号 |
IBISML2023-5 |
発行日 |
2023-06-22 (NC, IBISML) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
NC2023-5 IBISML2023-5 |
研究会情報 |
研究会 |
NC IBISML IPSJ-BIO IPSJ-MPS |
開催期間 |
2023-06-29 - 2023-07-01 |
開催地(和) |
沖縄科学技術大学院大学カンファレンス・センター |
開催地(英) |
OIST Conference Center |
テーマ(和) |
機械学習によるバイオデータマイニング、一般 |
テーマ(英) |
|
講演論文情報の詳細 |
申込み研究会 |
IBISML |
会議コード |
2023-06-NC-IBISML-BIO-MPS |
本文の言語 |
日本語 |
タイトル(和) |
深層学習によるSaliency Mapに対する選択的推論 |
サブタイトル(和) |
|
タイトル(英) |
Selective Inference for DNN-driven Saliency Map |
サブタイトル(英) |
|
キーワード(1)(和/英) |
選択的推論 / Selective Inference |
キーワード(2)(和/英) |
統計的仮説検定 / Statistical Hypothesis Testing |
キーワード(3)(和/英) |
顕著性マップ / Saliency Map |
キーワード(4)(和/英) |
深層学習 / Deep Learning |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
三輪 大貴 / Daiki Miwa / ミワ ダイキ |
第1著者 所属(和/英) |
名古屋工業大学 (略称: 名工大)
Nagoya Institute of Technology (略称: NITech) |
第2著者 氏名(和/英/ヨミ) |
Vo Nguyen Le Duy / Vo Nguyen Le Duy / |
第2著者 所属(和/英) |
理学研究所 (略称: 理研)
RIKEN (略称: RIKEN) |
第3著者 氏名(和/英/ヨミ) |
白石 智洸 / Tomohiro Shiraishi / タケウチ イチロウ |
第3著者 所属(和/英) |
名古屋大学 (略称: 名大)
Nagoya University (略称: Nagoya Univ.) |
第4著者 氏名(和/英/ヨミ) |
竹内 一郎 / Ichiro Takeuchi / |
第4著者 所属(和/英) |
名古屋大学/理化学研究所 (略称: 名大/理研)
Nagoya University/RIKEN (略称: Nagoya Univ./RIKEN) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
第21著者 氏名(和/英/ヨミ) |
/ / |
第21著者 所属(和/英) |
(略称: )
(略称: ) |
第22著者 氏名(和/英/ヨミ) |
/ / |
第22著者 所属(和/英) |
(略称: )
(略称: ) |
第23著者 氏名(和/英/ヨミ) |
/ / |
第23著者 所属(和/英) |
(略称: )
(略称: ) |
第24著者 氏名(和/英/ヨミ) |
/ / |
第24著者 所属(和/英) |
(略称: )
(略称: ) |
第25著者 氏名(和/英/ヨミ) |
/ / |
第25著者 所属(和/英) |
(略称: )
(略称: ) |
第26著者 氏名(和/英/ヨミ) |
/ / |
第26著者 所属(和/英) |
(略称: )
(略称: ) |
第27著者 氏名(和/英/ヨミ) |
/ / |
第27著者 所属(和/英) |
(略称: )
(略称: ) |
第28著者 氏名(和/英/ヨミ) |
/ / |
第28著者 所属(和/英) |
(略称: )
(略称: ) |
第29著者 氏名(和/英/ヨミ) |
/ / |
第29著者 所属(和/英) |
(略称: )
(略称: ) |
第30著者 氏名(和/英/ヨミ) |
/ / |
第30著者 所属(和/英) |
(略称: )
(略称: ) |
第31著者 氏名(和/英/ヨミ) |
/ / |
第31著者 所属(和/英) |
(略称: )
(略称: ) |
第32著者 氏名(和/英/ヨミ) |
/ / |
第32著者 所属(和/英) |
(略称: )
(略称: ) |
第33著者 氏名(和/英/ヨミ) |
/ / |
第33著者 所属(和/英) |
(略称: )
(略称: ) |
第34著者 氏名(和/英/ヨミ) |
/ / |
第34著者 所属(和/英) |
(略称: )
(略称: ) |
第35著者 氏名(和/英/ヨミ) |
/ / |
第35著者 所属(和/英) |
(略称: )
(略称: ) |
第36著者 氏名(和/英/ヨミ) |
/ / |
第36著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2023-06-29 15:10:00 |
発表時間 |
25分 |
申込先研究会 |
IBISML |
資料番号 |
NC2023-5, IBISML2023-5 |
巻番号(vol) |
vol.123 |
号番号(no) |
no.90(NC), no.91(IBISML) |
ページ範囲 |
pp.30-34 |
ページ数 |
5 |
発行日 |
2023-06-22 (NC, IBISML) |
|