| 講演抄録/キーワード |
| 講演名 |
2019-03-04 17:00
積層自己符号化器における人が理解できる深層学習を目指して ○石川眞澄(九工大) NC2018-62 |
| 抄録 |
(和) |
深層学習の進展はめざましく,その認識性能は人を凌駕するとも言われている.ただ,獲得された特徴量は判然とせず,深層学習の判断理由も人には分からないことが多い.1990年代のニューラルネットワークも同様の指摘がなされ,筆者は忘却(L1ノルム,ラプラス正則化とも呼ぶ)等の提案によりその解決を目指した.本稿では,この提案を深層学習向けに拡張した方法を提案する.非線形系である深層学習ではL1ノルムのみでは分散表現が出現することが多く,人の理解を妨げる.このため,L1ノルムに加えて,構造分割,選択的L1ノルム,隠れ層活性度正則化等を併用する方法を提案する.本提案を深層学習の一つである積層自己符号化器に適用し,スパース化及び意味付け獲得の有効性を検証する. |
| (英) |
Recent progress of deep learning(DP) is remarkable and its recognition ability is said to surpass that of humans. The acquired features, however, are not clear to humans. In many cases, basis of judgement by DP is not known. In 1990s the author proposed l1-norm to make neural networks understandable. In DP, nonlinear in nature, l1-norm alone is not enough to understand the resulting model due to distributed representations. The present paper proposes to extend the previous proposal by jointly using selective l1-norm, hidden neurons activation regularization and so forth, and applies it to real data to verify that sparsity obtained and meaning of hidden neurons attached are effective. |
| キーワード |
(和) |
深層学習 / 積層自己符号化器 / 理解できるAI / L1ノルム / ニューラルネットワーク / / / |
| (英) |
Deep learning / Stacked autoencoders / Understandable AI / l1- norm / Neural networks / / / |
| 文献情報 |
信学技報, vol. 118, no. 470, NC2018-62, pp. 99-104, 2019年3月. |
| 資料番号 |
NC2018-62 |
| 発行日 |
2019-02-25 (NC) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NC2018-62 |