講演抄録/キーワード |
講演名 |
2021-09-18 16:05
[基調講演]説明可能な人間としてのニューラルネットワーク ~ 対照研究の新手法 ~ ○村脇有吾(京大) TL2021-16 |
抄録 |
(和) |
本講演では、説明可能なAI (XAI) の分野で開発されている諸技術が計算人間科学に応用可能であることを主張する。XAIの文脈では、人工知能は人間とは異質な他者であり、ブラックボックスの中身を説明することで人間の信頼を勝ち取るべきものとみなされる。一方、計算人間科学においては、人間こそがブラックボックスであり、人工知能は人間の機能を近似する役割を果たす。したがって、説明手法は人間の説明に転用できるのではないだろうか。これが本講演の着想である。具体例として、ニューラルネットワークに基づく分類器が対照研究に応用できることを示す。まず2つの人間集団が書いたテキストを識別する分類器を訓練し、次に説明手法を適用することで分類器がどのように分類を行っているかを分析する。現在のニューラルネットワークの高い表現力を活かすと、文脈依存の語や長い表現を探索的に調査できることが大きな利点である。 |
(英) |
In this talk, I argue that techniques developed in the field of explainable AI (XAI) have potential applications in computational human sciences. In typical XAI scenarios, artificial intelligence is seen as a technological Other that is obliged to win human trust by explaining the black box. In computational human sciences, however, it is humans that are the black box, and artificial intelligence serves as an approximation of human functions. This observation motivates us to use explanation methods to explain humans. As a concrete example, I show that neural network-based classifiers can be applied to contrastive studies. We begin by training a classifier to discriminate texts written by two groups of humans and then apply an explanation method to analyze how it performs classification. A major advantage of this approach is that the high expressive power of modern neural networks allows us to investigate context-sensitive words and long expressions in an explorative manner. |
キーワード |
(和) |
説明可能なAI / ニューラルネットワーク / 分類器 / 対照研究 / / / / |
(英) |
explainable AI / neural networks / classifiers / contrastive studies / / / / |
文献情報 |
信学技報, vol. 121, no. 180, TL2021-16, pp. 23-27, 2021年9月. |
資料番号 |
TL2021-16 |
発行日 |
2021-09-11 (TL) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
TL2021-16 |