| 講演抄録/キーワード |
| 講演名 |
2025-01-30 13:10
多峰性分布に対する局所エントロピーを利用した粒子型変分推論の提案 ○河村祐弥・高邉賢史(Science Tokyo) IT2024-67 SIP2024-106 RCS2024-250 |
| 抄録 |
(和) |
Stein variational gradient descent (SVGD)は,粒子型変分推論法として高いサンプリング効率と優れた収束性能が注目されている.しかし,多峰性確率分布のサンプリングにおいては,粒子が局所的なモードに収束し,目的分布からのサンプリングに失敗しやすいという問題点が存在する.本研究では,局所エントロピーを活用し,多峰性確率分布をより正確に捉える新しい手法entropy SVGD (ESVGD)を提案する.また,深層展開によりESVGDの内部パラメタを学習しアルゴリズムの収束加速や近似性能の向上を試みた.計算機実験により,提案手法が収束性能や近似性能の面で優れた性能を示すことが明らかとなった. |
| (英) |
Stein variational gradient descent (SVGD) is a prominent particle-based variational inference method for sampling a distribution. Its remarkable sampling capability has attracted considerable attention.
However, when sampling a multimodal probability distribution, the method often fails because particles often converge to local modes. In this study, we propose entropy SVGD (ESVGD), which leverages local entropy to more accurately capture multimodal distributions. Furthermore, by combining it with deep unfolding, we learn the internal parameters of ESVGD to accelerate convergence and enhance its approximation capabilities. Numerical experiments demonstrate that our proposed method achieves significant improvements in both convergence performance and approximation accuracy. |
| キーワード |
(和) |
粒子型変分推定 / 局所エントロピー / 深層学習 / 深層展開 / / / / |
| (英) |
particle-based variational inference / local entropy / deep learning / deep unfolding / / / / |
| 文献情報 |
信学技報, vol. 124, no. 365, SIP2024-106, pp. 238-243, 2025年1月. |
| 資料番号 |
SIP2024-106 |
| 発行日 |
2025-01-22 (IT, SIP, RCS) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IT2024-67 SIP2024-106 RCS2024-250 |
| 研究会情報 |
| 研究会 |
RCS SIP IT |
| 開催期間 |
2025-01-29 - 2025-01-30 |
| 開催地(和) |
海峡メッセ下関 |
| 開催地(英) |
Kaikyou-messe |
| テーマ(和) |
無線通信のための信号処理,学習,数理,情報理論および一般 |
| テーマ(英) |
Signal Processing for Wireless Communications, Learning, Mathematics, Information Theory, etc. |
| 講演論文情報の詳細 |
| 申込み研究会 |
SIP |
| 会議コード |
2025-01-RCS-SIP-IT |
| 本文の言語 |
日本語 |
| タイトル(和) |
多峰性分布に対する局所エントロピーを利用した粒子型変分推論の提案 |
| サブタイトル(和) |
|
| タイトル(英) |
Particle-based Variational Inference using Local Entropy for Multimodal Distributions |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
粒子型変分推定 / particle-based variational inference |
| キーワード(2)(和/英) |
局所エントロピー / local entropy |
| キーワード(3)(和/英) |
深層学習 / deep learning |
| キーワード(4)(和/英) |
深層展開 / deep unfolding |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
河村 祐弥 / Yuya Kawamura / カワムラ ユウヤ |
| 第1著者 所属(和/英) |
東京科学大学 (略称: Science Tokyo)
Institute of Science Tokyo (略称: Science Tokyo) |
| 第2著者 氏名(和/英/ヨミ) |
高邉 賢史 / Satoshi Takabe / タカベ サトシ |
| 第2著者 所属(和/英) |
東京科学大学 (略称: Science Tokyo)
Institute of Science Tokyo (略称: Science Tokyo) |
| 第3著者 氏名(和/英/ヨミ) |
/ / |
| 第3著者 所属(和/英) |
(略称: )
(略称: ) |
| 第4著者 氏名(和/英/ヨミ) |
/ / |
| 第4著者 所属(和/英) |
(略称: )
(略称: ) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2025-01-30 13:10:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
SIP |
| 資料番号 |
IT2024-67, SIP2024-106, RCS2024-250 |
| 巻番号(vol) |
vol.124 |
| 号番号(no) |
no.364(IT), no.365(SIP), no.366(RCS) |
| ページ範囲 |
pp.238-243 |
| ページ数 |
6 |
| 発行日 |
2025-01-22 (IT, SIP, RCS) |
|