講演抄録/キーワード |
講演名 |
2009-03-12 14:15
ビリーフプロパゲーション法を用いたボルツマンマシンの学習アルゴリズム ○丹内隼也・安田宗樹・田中和之(東北大) NC2008-144 |
抄録 |
(和) |
ボルツマンマシンはマルコフ確率場の形式をもつ相互結合型の確率的ニューラルネットワークであり,豊富な構造をもつデータ学習機械として期待されている.隠れ素子間に結合のない場合にはContrastive Divergence法などの高速で効果的な学習アルゴリズムが知られているが,隠れ素子間に結合のあるより一般のボルツマンマシンに対する効果的なアルゴリズムの成功例はほとんど報告されていない.そこで,本論文ではContrastive Divergence法にビリーフプロパゲーション法を組み合わせることで,隠れ素子間に結合のあるボルツマンマシンの効果的な学習アルゴリズムを提案する.また人工データを用いた数値実験を行うことで,提案学習アルゴリズムとWelling and Hintonにより提案された平均場学習アルゴリズムとの性能を比較し,提案学習アルゴリズムの有効性を示す. |
(英) |
Boltzmann machines are stochastic neural networks defined on undirected graphs and are expected to be learning machines with rich structures. It is known that the contrastive divergence learning is one of high-speed and effective learning algorithms for fully-visible Boltzmann machines and restricted Boltzmann machines. However, there are few effective learning algorithms for general Boltzmann machines which have some connections among hidden units. In the present paper, we propose a new learning algorithm for Boltzmann machines with general structures using the contrastive divergence and the loopy belief propagation. In some numerical experiments for artificial data, we show its validity by comparing our proposed algorithm with the mean-field learning one by Welling and Hinton. |
キーワード |
(和) |
ボルツマンマシン / マルコフ確率場 / ビリーフプロパゲーション / contrastive divergence / / / / |
(英) |
Boltzmann machine / Markov random field / belief propagation / contrastive divergence / / / / |
文献情報 |
信学技報, vol. 108, no. 480, NC2008-144, pp. 243-248, 2009年3月. |
資料番号 |
NC2008-144 |
発行日 |
2009-03-04 (NC) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
NC2008-144 |
研究会情報 |
研究会 |
NC MBE |
開催期間 |
2009-03-11 - 2009-03-13 |
開催地(和) |
玉川大学 |
開催地(英) |
Tamagawa Univ. |
テーマ(和) |
一般 |
テーマ(英) |
|
講演論文情報の詳細 |
申込み研究会 |
NC |
会議コード |
2009-03-NC-MBE |
本文の言語 |
日本語 |
タイトル(和) |
ビリーフプロパゲーション法を用いたボルツマンマシンの学習アルゴリズム |
サブタイトル(和) |
|
タイトル(英) |
Learning algorithm in Boltzmann machines using the belief propagation algorithm |
サブタイトル(英) |
|
キーワード(1)(和/英) |
ボルツマンマシン / Boltzmann machine |
キーワード(2)(和/英) |
マルコフ確率場 / Markov random field |
キーワード(3)(和/英) |
ビリーフプロパゲーション / belief propagation |
キーワード(4)(和/英) |
contrastive divergence / contrastive divergence |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
丹内 隼也 / Junya Tannai / タンナイ ジュンヤ |
第1著者 所属(和/英) |
東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.) |
第2著者 氏名(和/英/ヨミ) |
安田 宗樹 / Muneki Yasuda / ヤスダ ムネキ |
第2著者 所属(和/英) |
東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.) |
第3著者 氏名(和/英/ヨミ) |
田中 和之 / Kazuyuki Tanaka / タナカ カズユキ |
第3著者 所属(和/英) |
東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2009-03-12 14:15:00 |
発表時間 |
25分 |
申込先研究会 |
NC |
資料番号 |
NC2008-144 |
巻番号(vol) |
vol.108 |
号番号(no) |
no.480 |
ページ範囲 |
pp.243-248 |
ページ数 |
6 |
発行日 |
2009-03-04 (NC) |