| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2016-11-17 14:00 無限層デノイジング・オートエンコーダーの輸送理論解釈 ○園田 翔・村田 昇（早大）  IBISML2016-88 |
|
| 抄録 | （和） | 深層ニューラルネットの中間層では，入力データの特徴量抽出が行われている。中間層の特徴量写像を解析するために，ニューラルネットを輸送写像とみなす方法を提案する。特にデノイジング・オートエンコーダー（DAE）の場合は輸送写像が陽に求まるので，無限層であっても解析できる。合成DAEや連続DAEの中では，入力データのエントロピーを減らす逆拡散現象が起きていることを示した。輸送解釈によって，これまで解釈が難しかった積層DAEも，合成DAEに帰着できることを示した。 |
| （英） | The hidden layers of a deep neural network extract feature of the input data. We propose to analyze the feature map of a neural network by regarding it as a transportation map. The transportation map of denoising autoencoders (DAEs) is derived, which can even characterize the infinitely deep architecture. It is revealed that the composition of DAEs and the continuous DAE transport data points to reduce the entropy of the input data. The stacked DAE, which is a product of a complicated heuristics, can be identified as a composition of DAEs from the view point of a transportation map. | |
| キーワード | （和） | 深層学習 / 無限層ニューラルネット / デノイジング・オートエンコーダー / 輸送 / 逆拡散 / / / |
| （英） | deep learning / infinitely deep neural network / denoising autoencoder / transportation / backward heat equation / / / | |
| 文献情報 | 信学技報, vol. 116, no. 300, IBISML2016-88, pp. 297-304, 2016年11月. | |
| 資料番号 | IBISML2016-88 | |
| 発行日 | 2016-11-09 (IBISML) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IBISML2016-88 |
|
| 研究会情報 | |
| 研究会 | IBISML |
| 開催期間 | 2016-11-16 - 2016-11-18 |
| 開催地（和） | 京都大学 |
| 開催地（英） | Kyoto Univ. |
| テーマ（和） | 情報論的学習理論ワークショップ(IBIS2016) |
| テーマ（英） | Information-Based Induction Science Workshop (IBIS2016) |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2016-11-IBISML |
| 本文の言語 | 日本語 |
| タイトル（和） | 無限層デノイジング・オートエンコーダーの輸送理論解釈 |
| サブタイトル（和） | |
| タイトル（英） | Transportation aspect of infinitely deep denoising autoencoder |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 深層学習 / deep learning |
| キーワード(2)（和/英） | 無限層ニューラルネット / infinitely deep neural network |
| キーワード(3)（和/英） | デノイジング・オートエンコーダー / denoising autoencoder |
| キーワード(4)（和/英） | 輸送 / transportation |
| キーワード(5)（和/英） | 逆拡散 / backward heat equation |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 園田 翔 / Sho Sonoda / ソノダ ショウ |
| 第1著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 村田 昇 / Noboru Murata / ムラタ ノボル |
| 第2著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2016-11-17 14:00:00 |
| 発表時間 | 180分 |
| 申込先研究会 | IBISML |
| 資料番号 | IBISML2016-88 |
| 巻番号（vol） | vol.116 |
| 号番号（no） | no.300 |
| ページ範囲 | pp.297-304 |
| ページ数 | 8 |
| 発行日 | 2016-11-09 (IBISML) |
[研究会発表申込システムのトップページに戻る]