| 講演抄録/キーワード |
| 講演名 |
2024-03-11 11:40
時系列未来予想符号化:予測符号化に知見を得たリカレントニューラルネットワークの新しい処理方式の提案 ○和久井優斗・加藤准也・夏秋 嶺・廣瀬 明(東大) NC2023-46 |
| 抄録 |
(和) |
近年、リカレントニューラルネットワーク(RNN)と自由エネルギー原理が注目されている。FEPは、予測した出力と本来の入力との差分を生成してフィードフォワードニューラルネットワーク(FNN)の入力とする方式、すなわち予測符号化(PC)を含む。本論文は、RNNにおける新たな時系列データの処理方式として、予測符号化の考え方を踏まえた時系列未来予想符号化(TFC)を提案する。タスクはマルチステップ先予想である。我々の提案するTFCでは、以下の2つの方式によるマルチステップ先予測タスクを考える。すなわち、最小遅延フィードバックTFCと同期フィードバックTFCの2つを考える。後者は従来のPCの自然な拡張である。実験の結果、最小遅延TFCが最も高い性能を示し、同期TFCは同等かそれ以下の性能を示し、次に従来方式が最も低い性能を示した。この結果は、時系列データ処理においてもPCの概念が重要であり、同期性よりも小さな遅延がより重要であることを示唆している。このことは、PCの概念的な基礎、ひいてはFEPの概念的な基礎に重要な意味を持つかもしれない。 |
| (英) |
This paper proposes a new method for processing time-series data in recurrent neural networks (RNNs), namely, time-series forecasting coding (TFC). We developed them based on the idea of predictive coding (PC). We consider multi-step ahead forecasting task with the following two schemes, that is, smallest-delay feedback TFC and synchronous (temporally matching) feedback TFC. The latter is a natural extension of conventional PC. In experimental results, we show that the smallest-delay TFC presents the highest performance, while synchronous TFC shows comparable or lower performance, and then a conventional RNN method indicates the lowest. This result suggests that the concept of PC is important even in time-series data processing, and that small delay is more important than synchronicity. This may have significant implications to the conceptual fundamentals of the PC and thus of the FEP. |
| キーワード |
(和) |
リザバーコンピューティング / 自由エネルギー原理 / 予測符号化 / / / / / |
| (英) |
Reservoir computing / Free-energy principle / Predictive coding / / / / / |
| 文献情報 |
信学技報, vol. 123, no. 418, NC2023-46, pp. 19-24, 2024年3月. |
| 資料番号 |
NC2023-46 |
| 発行日 |
2024-03-04 (NC) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NC2023-46 |
| 研究会情報 |
| 研究会 |
NC MBE |
| 開催期間 |
2024-03-11 - 2024-03-12 |
| 開催地(和) |
東京大学 |
| 開催地(英) |
The Univ. of Tokyo |
| テーマ(和) |
脳アーキテクチャー, 一般(NC, ME) |
| テーマ(英) |
Brain architecture, General |
| 講演論文情報の詳細 |
| 申込み研究会 |
NC |
| 会議コード |
2024-03-NC-MBE |
| 本文の言語 |
日本語 |
| タイトル(和) |
時系列未来予想符号化:予測符号化に知見を得たリカレントニューラルネットワークの新しい処理方式の提案 |
| サブタイトル(和) |
|
| タイトル(英) |
Time-series Forecasting Coding: Proposal of A New Processing Method Developed from Predictive Coding for Recurrent Neural Networks |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
リザバーコンピューティング / Reservoir computing |
| キーワード(2)(和/英) |
自由エネルギー原理 / Free-energy principle |
| キーワード(3)(和/英) |
予測符号化 / Predictive coding |
| キーワード(4)(和/英) |
/ |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
和久井 優斗 / Yuto Wakui / ワクイ ユウト |
| 第1著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: UTokyo.) |
| 第2著者 氏名(和/英/ヨミ) |
加藤 准也 / Junya Kato / カトウ ジュンヤ |
| 第2著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: UTokyo.) |
| 第3著者 氏名(和/英/ヨミ) |
夏秋 嶺 / Ryo Natsuaki / ナツアキ リョウ |
| 第3著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: UTokyo.) |
| 第4著者 氏名(和/英/ヨミ) |
廣瀬 明 / Akira Hirose / ヒロセ アキラ |
| 第4著者 所属(和/英) |
東京大学 (略称: 東大)
The University of Tokyo (略称: UTokyo.) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2024-03-11 11:40:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
NC |
| 資料番号 |
NC2023-46 |
| 巻番号(vol) |
vol.123 |
| 号番号(no) |
no.418 |
| ページ範囲 |
pp.19-24 |
| ページ数 |
6 |
| 発行日 |
2024-03-04 (NC) |
|