講演抄録/キーワード |
講演名 |
2009-01-19 14:20
ランジュバン方程式を用いたベイズ学習の特異モデルにおける挙動について ○岩垣足火・渡辺澄夫(東工大) NC2008-88 |
抄録 |
(和) |
ランジュバン方程式を用いてランダムウォークのサンプリングの極限分布がベイズ事後分布になるようにアルゴリズムを構成できることが知られている.ランジュバン方程式を利用したサンプリングは勾配を利用するため,パラメータに広がりを持つを特異モデルにおいてメトロポリス法よりも効率的であることが期待される.本稿では特異モデルであるニューラルネットワークの学習において,ランジュバン方程式を用いたサンプリング法とメトロポリス法との相違を実験的に比較し,汎化誤差の挙動について繰り返し回数と実行時間の観点から明らかにする. |
(英) |
Langevin equation implies an algorithm that could make samples from the stationary distribution of a biased random walk equivalent to the posterior distribution of Bayesian learning. Sampling with Langevin equation uses gradient information of the target distribution, therefore it is expected to be efficient than Metropolis algorithm especially in wide parameter space of singular learning machines like neural networks. In this paper, we will discuss experimental results and generalization errors of both Langevin algorithm and Metropolis algorithm for neural networks with practical dimension. |
キーワード |
(和) |
特異モデル / ランジュバン方程式 / フォッカープランク方程式 / ベイズ学習 / / / / |
(英) |
Singular Learning Machines / Langevin Equation / Fokker-Planck Equation / Bayesian Learning / / / / |
文献情報 |
信学技報, vol. 108, no. 383, NC2008-88, pp. 37-42, 2009年1月. |
資料番号 |
NC2008-88 |
発行日 |
2009-01-12 (NC) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
NC2008-88 |
研究会情報 |
研究会 |
NC |
開催期間 |
2009-01-19 - 2009-01-20 |
開催地(和) |
北海道大学 |
開催地(英) |
Hokkaido Univ. |
テーマ(和) |
神経ダイナミクス,一般 |
テーマ(英) |
Neural Dynamics, etc. |
講演論文情報の詳細 |
申込み研究会 |
NC |
会議コード |
2009-01-NC |
本文の言語 |
日本語 |
タイトル(和) |
ランジュバン方程式を用いたベイズ学習の特異モデルにおける挙動について |
サブタイトル(和) |
|
タイトル(英) |
Experimental Study of Bayesian Learning using Langevin Equation in Singular Learing Machines |
サブタイトル(英) |
|
キーワード(1)(和/英) |
特異モデル / Singular Learning Machines |
キーワード(2)(和/英) |
ランジュバン方程式 / Langevin Equation |
キーワード(3)(和/英) |
フォッカープランク方程式 / Fokker-Planck Equation |
キーワード(4)(和/英) |
ベイズ学習 / Bayesian Learning |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
岩垣 足火 / Taruhi Iwagaki / イワガキ タルヒ |
第1著者 所属(和/英) |
東京工業大学 (略称: 東工大)
Tokyo Institute of Technology (略称: Tokyo Inst. of Tech.) |
第2著者 氏名(和/英/ヨミ) |
渡辺 澄夫 / Sumio Watanabe / ワタナベ スミオ |
第2著者 所属(和/英) |
東京工業大学 (略称: 東工大)
Tokyo Institute of Technology (略称: Tokyo Inst. of Tech.) |
第3著者 氏名(和/英/ヨミ) |
/ / |
第3著者 所属(和/英) |
(略称: )
(略称: ) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2009-01-19 14:20:00 |
発表時間 |
25分 |
申込先研究会 |
NC |
資料番号 |
NC2008-88 |
巻番号(vol) |
vol.108 |
号番号(no) |
no.383 |
ページ範囲 |
pp.37-42 |
ページ数 |
6 |
発行日 |
2009-01-12 (NC) |