| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2018-11-23 14:55 ハイパーネットによる畳み込みニューラルネットワークの暗黙的事後分布推定 ○鵜飼健矢・松原 崇・上原邦昭（神戸大）  CCS2018-45 |
|
| 抄録 | （和） | ニューラルネットワークは複雑な表現を学習することができ，様々なタスクで高い性能を示している． しかし，学習に利用できるデータは限られているため，過学習を起こしやすい． 過学習を防ぐためにニューラルネットワークの学習を正則化することは，最も重要な課題の１つである． 本研究では，大規模な畳み込みニューラルネットワークを対象とし，ハイパーネットを用いて，パラメータの事後分布を暗黙的に推定することで学習を正則化する． また，パラメータの分布が学習されることから，モデル平均化により識別精度を向上させることができる． 実験では提案手法による学習と推論について検討を行い，一定の正則化効果を持つことを示す． |
| （英） | Deep neural networks have a rich ability to learn complex representations and achieved remarkable results in various tasks. However, they are prone to overfitting due to the limited number of training samples; regularizing the learning process of neural networks is critical. In this paper, we propose a novel regularization method, which estimates parameters of a large convolutional neural network as implicit probabilistic distributions generated by a hypernetwork. Also, we can perform model averaging to improve the network performance. Experimental results demonstrate our regularization method outperformed the commonly-used maximum a posterior (MAP) estimation. |
|
| キーワード | （和） | ハイパーネット / ベイズ推定 / 畳み込みニューラルネットワーク / 画像認識 / / / / |
| （英） | hypernetwork / Bayesian estimation / convolutional neural network / image recognition / / / / | |
| 文献情報 | 信学技報, vol. 118, no. 316, CCS2018-45, pp. 67-72, 2018年11月. | |
| 資料番号 | CCS2018-45 | |
| 発行日 | 2018-11-15 (CCS) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | CCS2018-45 |
|
| 研究会情報 | |
| 研究会 | CCS |
| 開催期間 | 2018-11-22 - 2018-11-23 |
| 開催地（和） | 神戸大学 |
| 開催地（英） | Kobe Univ. |
| テーマ（和） | 相互作用と情報伝達・情報処理，一般 |
| テーマ（英） | Interaction and Communication, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | CCS |
| 会議コード | 2018-11-CCS |
| 本文の言語 | 日本語 |
| タイトル（和） | ハイパーネットによる畳み込みニューラルネットワークの暗黙的事後分布推定 |
| サブタイトル（和） | |
| タイトル（英） | Hypernetwork-based Implicit Posterior Estimation of CNN |
| サブタイトル（英） | |
| キーワード(1)（和/英） | ハイパーネット / hypernetwork |
| キーワード(2)（和/英） | ベイズ推定 / Bayesian estimation |
| キーワード(3)（和/英） | 畳み込みニューラルネットワーク / convolutional neural network |
| キーワード(4)（和/英） | 画像認識 / image recognition |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 鵜飼 健矢 / Kenya Ukai / ウカイ ケンヤ |
| 第1著者 所属（和/英） | 神戸大学 (略称： 神戸大) Kobe University (略称： Kobe Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 松原 崇 / Takashi Matsubara / マツバラ タカシ |
| 第2著者 所属（和/英） | 神戸大学 (略称： 神戸大) Kobe University (略称： Kobe Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 上原 邦昭 / Kuniaki Uehara / ウエハラ クニアキ |
| 第3著者 所属（和/英） | 神戸大学 (略称： 神戸大) Kobe University (略称： Kobe Univ.) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2018-11-23 14:55:00 |
| 発表時間 | 25分 |
| 申込先研究会 | CCS |
| 資料番号 | CCS2018-45 |
| 巻番号（vol） | vol.118 |
| 号番号（no） | no.316 |
| ページ範囲 | pp.67-72 |
| ページ数 | 6 |
| 発行日 | 2018-11-15 (CCS) |
[研究会発表申込システムのトップページに戻る]