お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2009-03-11 16:35
平均場近似を用いたHelmholtz Machineの学習
青木佑紀奈良先端大)・前田新一石井 信京大NC2008-113
抄録 (和) 高次元データから特徴抽出を行って低次元データや二値化するなどコンパクトな表現に置き換えることがしばしば行われる。コンパクトな特徴表現は、データの圧縮や視覚化や学習を行う際の過学習の回避や、学習の高速化に有用である。Hinton とSalakhutdinov [8] は、数百万のパラメータをもつ階層型restricted Boltzmann machine(RBM) の学習にcontrastive divergence (CD) に基づく初期学習を適用することで、主成分分析よりも優れた圧縮性能を実現する特徴抽出法を提案した。CD を用いた学習では、素早い学習を実現する一方、コスト関数が不明なため、パラメータ更新時に適当なステップサイズを使わざるを得ないという問題があり、改善の余地があると考えられる。
本報告では、Helmholtz Machine (HM) に対して平均場近似を用いた学習アルゴリズムを導出し、コスト関数とそのパラメータ勾配の両方を評価可能な学習則を提案する。また、この学習則が特定の条件の下でRBM のCD による学
習則に一致することを示す。 
(英) It is often required to extract a compact feature of an original high-dimensional datum. Such a compactfeature is useful to visualize the original data, or to avoid the over-fitting in the learning which usually requires parameters in proportion to the dimensionality of the data. Recently, Hinton and Salakhutdinov [8] proposed a new dimensionality reduction method, which shows a superior performance to the PCA in their demonstration. They used a hierarchical Boltzmann Machine with millions of parameters. It is well known that the learning of such a nonlinear function approximator is difficult because of local minima and overfitting; neverthless, it seems that they had avoided such possible problems by adopting a Contrastive Divergence (CD) learning in the pretraining. Although the CD learning provides a parameter update rule which realizes efficient learning, several potential disadvantages
remain: there are no theoretically justified choice for the step-size in updating the parameters because the cost function of CD learning is unknown.
In this report, we derive a learning algorithm of Helmholtz Machine
using a mean field approximation, which allows analytical evaluations of both of the cost function and its derivatives with respect to the parameters. Also, it is shown that the learning of the Helmholtz Machine is comparative to the CD learning of the Boltzmann machine under certain conditions.
キーワード (和) Restricted Boltzmann Machine / Helmholtz Machine / Contrastive Divergence / 特徴抽出 / 平均場近似 / / /  
(英) Restricted Boltzmann Machine, / Helmholtz Machine, / Contrastive Divergence / Feature Extraction / Mean Field Approximation / / /  
文献情報 信学技報, vol. 108, no. 480, NC2008-113, pp. 57-62, 2009年3月.
資料番号 NC2008-113 
発行日 2009-03-04 (NC) 
ISSN Print edition: ISSN 0913-5685    Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード NC2008-113

研究会情報
研究会 NC MBE  
開催期間 2009-03-11 - 2009-03-13 
開催地(和) 玉川大学 
開催地(英) Tamagawa Univ. 
テーマ(和) 一般 
テーマ(英)  
講演論文情報の詳細
申込み研究会 NC 
会議コード 2009-03-NC-MBE 
本文の言語 日本語 
タイトル(和) 平均場近似を用いたHelmholtz Machineの学習 
サブタイトル(和)  
タイトル(英) A Learning Algorithm of Helmholtz Machine with Mean Field Approximation 
サブタイトル(英)  
キーワード(1)(和/英) Restricted Boltzmann Machine / Restricted Boltzmann Machine,  
キーワード(2)(和/英) Helmholtz Machine / Helmholtz Machine,  
キーワード(3)(和/英) Contrastive Divergence / Contrastive Divergence  
キーワード(4)(和/英) 特徴抽出 / Feature Extraction  
キーワード(5)(和/英) 平均場近似 / Mean Field Approximation  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 青木 佑紀 / Yuki Aoki / アオキ ユウキ
第1著者 所属(和/英) 奈良先端科学技術大学院大学 (略称: 奈良先端大)
Nara Institute of Science and Technology (略称: Nara Inst. of Sci and Tech.)
第2著者 氏名(和/英/ヨミ) 前田 新一 / Shin-ichi Maeda / マエダ シンイチ
第2著者 所属(和/英) 京都大学 (略称: 京大)
Kyoto University (略称: Kyoto Univ.)
第3著者 氏名(和/英/ヨミ) 石井 信 / Shin Ishii / イシイ シン
第3著者 所属(和/英) 京都大学 (略称: 京大)
Kyoto University (略称: Kyoto Univ.)
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2009-03-11 16:35:00 
発表時間 25分 
申込先研究会 NC 
資料番号 NC2008-113 
巻番号(vol) vol.108 
号番号(no) no.480 
ページ範囲 pp.57-62 
ページ数
発行日 2009-03-04 (NC) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会