お知らせ 研究会の開催と会場に参加される皆様へのお願い(2022年6月開催~)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2020-10-22 14:50
深層学習における不適切なコンセプトによる説明の抑制
宗政友洋筑波大)・福地一斗秋本洋平佐久間 淳筑波大/理研IBISML2020-32
抄録 (和) 人間が直感的に理解できる概念 (concept) を用いた説明法である TCAV は,concept に基づく post-hoc な手 法である.TCAV は,識別対象クラスについて,人間が予め与えた concept (e.g. 丸い,赤い) の重要度に基づく説明 法である.本研究では,TCAV は識別対象クラスに無関係な concept を重要であると示す false positive が頻繁に発生 することを実験的に確認した.さらに,TCAV の false positive が起こる原因は,コンセプトの生成に用いるサンプル の偏りにあることを明らかにして,その原因を解消することで false positive を抑制できることを実験的に確認した. 
(英) TCAV [1], which is an explanation method using a concept that humans easily understand for deep learning models, concept based and post-hoc explanation method. TCAV is a method based on importance of concept given in advance (e.g. roundness, red) in a certain class. In this study, we experimentally confirmed that TCAV frequently causes false positives that the concepts unrelated to the class is important. Furthermore we clarified the cause of false positives is a sample bias used to generate the concept. We experimentally confirmed that false positives counld be suppressed by eliminating the cause.
キーワード (和) 機械学習モデルの説明 / 事後説明 / コンセプト / 偽陽性 / / / /  
(英) XAI / Post-hoc explanation / Concept / False Positive / / / /  
文献情報 信学技報, vol. 120, no. 195, IBISML2020-32, pp. 61-68, 2020年10月.
資料番号 IBISML2020-32 
発行日 2020-10-13 (IBISML) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード IBISML2020-32

研究会情報
研究会 IBISML  
開催期間 2020-10-20 - 2020-10-22 
開催地(和) オンライン開催 
開催地(英) Online 
テーマ(和) 機械学習の最前線に関するオーガナイズドセッションおよび機械学習一般 
テーマ(英) Organized Sessions on Frontiers of Machine Learning and General Sessions 
講演論文情報の詳細
申込み研究会 IBISML 
会議コード 2020-10-IBISML 
本文の言語 日本語 
タイトル(和) 深層学習における不適切なコンセプトによる説明の抑制 
サブタイトル(和)  
タイトル(英) Suppressing explanations with irrelevant concepts in deep learning 
サブタイトル(英)  
キーワード(1)(和/英) 機械学習モデルの説明 / XAI  
キーワード(2)(和/英) 事後説明 / Post-hoc explanation  
キーワード(3)(和/英) コンセプト / Concept  
キーワード(4)(和/英) 偽陽性 / False Positive  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 宗政 友洋 / Munemasa Tomohiro / ムネマサ トモヒロ
第1著者 所属(和/英) 筑波大学 (略称: 筑波大)
Tsukuba University (略称: Tsukuba Univ)
第2著者 氏名(和/英/ヨミ) 福地 一斗 / Fukuchi Kazuto / フクチ カズト
第2著者 所属(和/英) 筑波大学/理研AIP (略称: 筑波大/理研)
Tsukuba University /Riken AIP (略称: Tsukuba Univ/Riken AIP)
第3著者 氏名(和/英/ヨミ) 秋本 洋平 / Akimoto Yohei / アキモト ヨウヘイ
第3著者 所属(和/英) 筑波大学/理研AIP (略称: 筑波大/理研)
Tsukuba University /Riken AIP (略称: Tsukuba Univ/Riken AIP)
第4著者 氏名(和/英/ヨミ) 佐久間 淳 / Sakuma Jun / サクマ ジュン
第4著者 所属(和/英) 筑波大学/理研AIP (略称: 筑波大/理研)
Tsukuba University /Riken AIP (略称: Tsukuba Univ/Riken AIP)
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2020-10-22 14:50:00 
発表時間 25分 
申込先研究会 IBISML 
資料番号 IBISML2020-32 
巻番号(vol) vol.120 
号番号(no) no.195 
ページ範囲 pp.61-68 
ページ数
発行日 2020-10-13 (IBISML) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会