| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2021-06-28 13:25 シンプレクティック数値積分法を用いたNeural ODEの学習 ○松原 崇・宮武勇登（阪大）・谷口隆晴（神戸大）  NC2021-2 IBISML2021-2 |
|
| 抄録 | （和） | ニューラルネットワークで微分方程式を学習するneural ODEは，連続時間のダイナミカルシステムや確率分布を，高い精度でモデル化できる．しかし同じニューラルネットワークを何度も使うため，誤差逆伝播法で訓練するには非常に大きなメモリが必要になる．そのため数値積分で誤差逆伝播法を行う随伴法が用いられるが，数値誤差か大きな計算コストのどちらかが問題となる．本研究では随伴法に適切なチェックポイント法とシンプレクティック数値積分法を用いることで，省メモリ性と速度を両立させる手法を提案する． |
| （英） | A differential equation model using neural networks, neural ODE, enables use to model a continuous-time dynamics and probabilistic model with high accuracy. However, the neural ODE uses the same neural network repeatedly, the training using the backpropagation algorithm consumes large memory. Instead of the backpropagation algorithm, the adjoint method is commonly used, which obtains the gradient using the numerical integration. The adjoint method needs a small step size and much computational cost to suppress the numerical errors. In this study, we combine the checkpointing scheme and symplectic integrator for the adjoint method. It suppresses the memory consumption and functions faster. | |
| キーワード | （和） | ニューラルODE / 常微分方程式 / 随伴 / シンプレクティック数値積分法 / / / / |
| （英） | Neural ODE / ordinary differential equation / adjoint method / symplectic integrator / / / / | |
| 文献情報 | 信学技報, vol. 121, no. 80, IBISML2021-2, pp. 9-14, 2021年6月. | |
| 資料番号 | IBISML2021-2 | |
| 発行日 | 2021-06-21 (NC, IBISML) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NC2021-2 IBISML2021-2 |
|
| 研究会情報 | |
| 研究会 | NC IBISML IPSJ-BIO IPSJ-MPS |
| 開催期間 | 2021-06-28 - 2021-06-30 |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | 機械学習によるバイオデータマイニング、一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2021-06-NC-IBISML-BIO-MPS |
| 本文の言語 | 日本語 |
| タイトル（和） | シンプレクティック数値積分法を用いたNeural ODEの学習 |
| サブタイトル（和） | |
| タイトル（英） | Training Neural ODE by Symplectic Integrator |
| サブタイトル（英） | |
| キーワード(1)（和/英） | ニューラルODE / Neural ODE |
| キーワード(2)（和/英） | 常微分方程式 / ordinary differential equation |
| キーワード(3)（和/英） | 随伴 / adjoint method |
| キーワード(4)（和/英） | シンプレクティック数値積分法 / symplectic integrator |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 松原 崇 / Takashi Matsubara / マツバラ カタシ |
| 第1著者 所属（和/英） | 大阪大学 (略称： 阪大) Osaka University (略称： Osaka Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 宮武 勇登 / Yuto Miyatake / ミヤタケ ユウト |
| 第2著者 所属（和/英） | 大阪大学 (略称： 阪大) Osaka University (略称： Osaka Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 谷口 隆晴 / Takaharu Yaguchi / ヤグチ タカハル |
| 第3著者 所属（和/英） | 神戸大学 (略称： 神戸大) Kobe University (略称： Kobe Univ.) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2021-06-28 13:25:00 |
| 発表時間 | 25分 |
| 申込先研究会 | IBISML |
| 資料番号 | NC2021-2, IBISML2021-2 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | no.79(NC), no.80(IBISML) |
| ページ範囲 | pp.9-14 |
| ページ数 | 6 |
| 発行日 | 2021-06-21 (NC, IBISML) |
[研究会発表申込システムのトップページに戻る]