| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2023-03-17 16:45 Deep Echo State Networkにおけるリークレートの最適化による機能増強 ○井上秀一・信川 創（千葉工大）・西村治彦（兵庫県立大）・渡辺英治（基礎生物学研）・礒川悌次郎（兵庫県立大）  MSS2022-110 NLP2022-155 |
|
| 抄録 | （和） | Deep Echo State Network (Deep-ESN)は，複数のリザバー層を持ち，リザバー各層で異なる時間スケールのダイナミクスを適切に表現する事で，性能向上が期待できる．しかし，リザバー各層の時間スケールを調整するネットワークや個別ニューロンのハイパーパラメータの設計指針，具体的な異なる時間スケールのダイナミクスが生成されるメカニズムは明らかになっていない．本研究では，これらを明らかにするため，リザバーニューロンを構成するリークレートを調整して，時系列予測タスクを行い，Multiscale entropy法を用いて各層の出力を解析した．また，隣接する層の相互相関を算出し，層が深くなるにつれて，時間スケールが遅れ，それがメモリ機能の増強につながることを明らかにした．このメカニズムの理解はDeep-ESNの設計指針に貢献すると考えられる． |
| （英） | Deep echo state network (Deep-ESN) model consists of multiple reservoir layers, which can respond on layer-specific different time scales. This dynamical characteristic leads to improve performance. However, neither the design guidelines for the hyperparameters of the network and individual neurons nor the mechanism to produce the diverse dynamical response have been clarified. In this study, we proposed an approach to generate the dynamical responses with different time scales in each layer by adjusting the leaking rate of neurons. Through the evaluations time-series prediction task for different leaking rates, multiscale entropy analysis for each reservoir layer, and cross-correlation between adjacent layers, we found that when the leak rate is set to low, the layer-specific dynamics with different time-scales are generated, as well as a mechanism whereby the signal propagates to subsequent layers with a delay. These characteristics produce a high memory capacity, consequently, diverse responses leads to an enhancement of Deep-ESN functionality. | |
| キーワード | （和） | 機械学習 / リザバーコンピューティング / Echo State Network / Deep Echo State Network / / / / |
| （英） | Machine learning / Reservoir computing / Echo State Network / Deep Echo State Network / / / / | |
| 文献情報 | 信学技報, vol. 122, no. 436, NLP2022-155, pp. 231-236, 2023年3月. | |
| 資料番号 | NLP2022-155 | |
| 発行日 | 2023-03-08 (MSS, NLP) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | MSS2022-110 NLP2022-155 |
|
| 研究会情報 | |
| 研究会 | NLP MSS |
| 開催期間 | 2023-03-15 - 2023-03-17 |
| 開催地（和） | 長崎大学 文教キャンパス |
| 開催地（英） | |
| テーマ（和） | MSS，NLP，一般，およびWIP（MSSのみ） |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | NLP |
| 会議コード | 2023-03-NLP-MSS |
| 本文の言語 | 日本語 |
| タイトル（和） | Deep Echo State Networkにおけるリークレートの最適化による機能増強 |
| サブタイトル（和） | |
| タイトル（英） | Enhancement of functionality in Deep Echo State Network by optimizing leak rate |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 機械学習 / Machine learning |
| キーワード(2)（和/英） | リザバーコンピューティング / Reservoir computing |
| キーワード(3)（和/英） | Echo State Network / Echo State Network |
| キーワード(4)（和/英） | Deep Echo State Network / Deep Echo State Network |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 井上 秀一 / Shuichi Inoue / イノウエ シュウイチ |
| 第1著者 所属（和/英） | 千葉工業大学 (略称： 千葉工大) Chiba Institute of Technology (略称： CIT) |
| 第2著者 氏名（和/英/ヨミ） | 信川 創 / Sou Nobukawa / ノブカワ ソウ |
| 第2著者 所属（和/英） | 千葉工業大学 (略称： 千葉工大) Chiba Institute of Technology (略称： CIT) |
| 第3著者 氏名（和/英/ヨミ） | 西村 治彦 / Haruhiko Nishimura / ニムムラ ハルヒコ |
| 第3著者 所属（和/英） | 兵庫県立大学 (略称： 兵庫県立大) University of Hyogo (略称： UOH) |
| 第4著者 氏名（和/英/ヨミ） | 渡辺 英治 / Eiji Watanabe / ワタナベ エイジ |
| 第4著者 所属（和/英） | 基礎生物学研究所 (略称： 基礎生物学研) National Institute for Basic Biology (略称： NIBB) |
| 第5著者 氏名（和/英/ヨミ） | 礒川 悌次郎 / Teijiro Isokawa / イソカワ テイジロウ |
| 第5著者 所属（和/英） | 兵庫県立大学 (略称： 兵庫県立大) University of Hyogo (略称： UOH) |
| 講演者 | 第1著者 |
| 発表日時 | 2023-03-17 16:45:00 |
| 発表時間 | 20分 |
| 申込先研究会 | NLP |
| 資料番号 | MSS2022-110, NLP2022-155 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | no.435(MSS), no.436(NLP) |
| ページ範囲 | pp.231-236 |
| ページ数 | 6 |
| 発行日 | 2023-03-08 (MSS, NLP) |
[研究会発表申込システムのトップページに戻る]