講演抄録/キーワード |
講演名 |
2007-03-15 14:20
有限資源環境下における睡眠期間を導入した追加学習法 ○三神浩平・山内康一郎(北大) |
抄録 |
(和) |
細胞数を最適に保つため、自動的に自らの細胞数を調整するニューラルネットワークが数多く提案されている。そのほとんどは最適な細胞数を割り付けることを前提としているため、細胞数に上限を設定しない。しかし、現実の環境では資源の許容量に上限がある。さらに、現実の環境では学習データに大きな誤り(ノイズ)が含まれることも考慮しなくてはならない。特に有限資源環境下で働く学習システムは、ノイズを学習することで誤った知識を得てしまうだけでなく記憶容量も圧迫されるため、とりわけノイズの影響を受けやすいと考えられる。
そこで本研究では上限細胞数を越えずに細胞を割り付け、かつノイズに強い追加学習アルゴリズムを提案する。提案手法は人の睡眠や夢のしくみを基に考案したモデルであり、睡眠期間中にリハーサルを行うことで上記の能力を実現する。本論文では提案手法の性能を、人工データを用いた実験により検証する。 |
(英) |
There are many learning systems that optimize the number of hidden units through learning. Almost all of them, do not restrict its number of hidden units to require an optimal number of hidden units, which is unknown before learning. In realistic environments, however, the amount of resources is restricted so that the upper limit in the number of hidden units should be set. Moreover, we have to pay attention to the wasting resources of the system due to leaning of abnormal inputs, since the learning system will frequently encounter abnormal learning samples in real environments. In such situations, the performances of the learning system with limited number of hidden units is greatly affected by the learning of such abnormal inputs.
To solve these problems, we propose a modified version of Incremental Learning through Sleep (ILS). The modified ILS learns new inputs incrementally with a limited number of hidden units. Moreover, the new ILS selects valuable learning samples from noisy abnormal learning samples. |
キーワード |
(和) |
資源の制限 / 情報の選択 / 追加学習 / Incremental Learning with Sleep (ILS) / GaRBF / GRNN / 睡眠 / 精緻化リハーサル |
(英) |
Limited Resources / Selection of Information / Incremental Learning / Incremental Learning with Sleep (ILS) / GaRBF / GRNN / Sleep / Elaborated Rehearsal |
文献情報 |
信学技報, vol. 106, no. 589, NC2006-180, pp. 159-164, 2007年3月. |
資料番号 |
NC2006-180 |
発行日 |
2007-03-08 (NC) |
ISSN |
Print edition: ISSN 0913-5685 |
PDFダウンロード |
|