| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2015-03-16 15:10 RBMにおける未学習データ検出法の提案と追加学習への応用 ○大澤正彦・萩原将文（慶大）  MBE2014-167 NC2014-118 |
|
| 抄録 | （和） | 深層学習などのニューラルネットワークを用いた学習アルゴリズムは，追加学習によってほとんど全ての結合荷重が更新されるため，既存の学習結果が破壊される可能性があるという欠点が知られている．本研究では，深層学習の教師なし学習に用いられるRestricted Boltzmann Machine(RBM)に対して，既学習内容の破壊が起こらない追加学習法を提案する．初めに，あるデータセットを学習したRBMがエネルギー関数を用いることによって未学習データを検出できることを示す．次に新たな隠れ層素子と結合荷重を用いて検出した未学習のデータ群を学習する追加学習法を提案する．提案手法は学習を終えた結合荷重を変更しないため，既学習内容が失われないと考えられる．評価実験では，エネルギー関数を用いて未学習のデータを判別できることや，既存の学習結果を失わないことが確認された．例題として扱った三目並べでは，段階的に戦略を獲得していることや，追加学習を行わずに多くのデータを学習した場合よりも勝利確率が大幅に向上する傾向が得られた． |
| （英） | Incremental learnings without destruction of the existing memory are often difficult for deep learning, since most of the weights change. In this paper, we propose an incremental learning method for Restricted Boltzmann Machines (RBMs). First, we suggest that trained RBMs can detect novel data using their energy function. Second, we propose the incremental learning method for these novel data by adding some new units and combine them with the trained network. The proposed method can memorize novel data and without degradating learned contents. According to the evaluation experiments, it is suggested that RBMs can find novel data using the energy function and learn without destruction of learned contents. Furthermore, in the task of the tick-tack-toe, the agents using the proposed method could get strategies progressively and they were better than agents without these methods even if the latter learned much more data. | |
| キーワード | （和） | 制限付きボルツマンマシン / 深層学習 / 連想記憶 / 追加学習 / / / / |
| （英） | Restricted Boltzmann Machine / Deep Learning / Associative Memory / Incremental Learning / / / / | |
| 文献情報 | 信学技報, vol. 114, no. 515, NC2014-118, pp. 283-288, 2015年3月. | |
| 資料番号 | NC2014-118 | |
| 発行日 | 2015-03-09 (MBE, NC) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | MBE2014-167 NC2014-118 |
|
| 研究会情報 | |
| 研究会 | NC MBE |
| 開催期間 | 2015-03-16 - 2015-03-17 |
| 開催地（和） | 玉川大学 |
| 開催地（英） | Tamagawa University |
| テーマ（和） | ME，一般 |
| テーマ（英） | ME, etc |
| 講演論文情報の詳細 | |
| 申込み研究会 | NC |
| 会議コード | 2015-03-NC-MBE |
| 本文の言語 | 日本語 |
| タイトル（和） | RBMにおける未学習データ検出法の提案と追加学習への応用 |
| サブタイトル（和） | |
| タイトル（英） | A Proposal of Novel Data Detection Method and Its Application to Incremental Learning for RBMs |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 制限付きボルツマンマシン / Restricted Boltzmann Machine |
| キーワード(2)（和/英） | 深層学習 / Deep Learning |
| キーワード(3)（和/英） | 連想記憶 / Associative Memory |
| キーワード(4)（和/英） | 追加学習 / Incremental Learning |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 大澤 正彦 / Masahiko Osawa / オオサワ マサヒコ |
| 第1著者 所属（和/英） | 慶應義塾大学 (略称： 慶大) Keio University (略称： Keio Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 萩原 将文 / Masafumi Hagiwara / ハギワラ マサフミ |
| 第2著者 所属（和/英） | 慶應義塾大学 (略称： 慶大) Keio University (略称： Keio Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2015-03-16 15:10:00 |
| 発表時間 | 25分 |
| 申込先研究会 | NC |
| 資料番号 | MBE2014-167, NC2014-118 |
| 巻番号（vol） | vol.114 |
| 号番号（no） | no.514(MBE), no.515(NC) |
| ページ範囲 | pp.283-288 |
| ページ数 | 6 |
| 発行日 | 2015-03-09 (MBE, NC) |
[研究会発表申込システムのトップページに戻る]