| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2023-07-06 14:40 深層展開による粒子型変分推定の収束加速 ○河村祐弥・高邉賢史（東工大）  CAS2023-8 VLD2023-8 SIP2023-24 MSS2023-8 |
|
| 抄録 | （和） | Stein Variational Gradient Descent（SVGD）は確率的モデルにおいて事後分布を推定する代表的な粒子型変分推定法であり，その高い近似性能から多くの注目を集めている．本稿では，SVGDに対し深層展開と呼ばれる深層学習手法を適用したアルゴリズムを提案する．これにより，SVGDの内部パラメータを学習しアルゴリズムの収束加速を目指す．提案した2種類の学習型SVGDの性能を評価するため，1次元混合ガウス分布のサンプリング，ベイズロジスティック回帰，ベイズニューラルネットワークという異なる3個のタスクに対して，計算機シミュレーションを行った．結果として，従来のSVGDと比較して，提案アルゴリズムがより速い収束を達成することをが明らかとなった． |
| （英） | Stein Variational Gradient Descent(SVGD) is a prominent particle-based variational inference method used for estimating posterior distributions in probabilistic models . Its remarkable approximation capabilities have attracted considerable attention. In this paper, we propose a trainable algorithm that incorporates a deep learning technique known as deep unfolding into SVGD. This approach enables the learning of internal parameters of SVGD, leading to the acceleration of the convergence speed. To evaluate the proposed two trainable SVGD algorithms, we conducted numerical simulations for three different tasks: sampling from one-dimensional Gaussian mixture, Bayesian logistic regression, and Bayesian neural networks. The results show that our proposed algorithms exhibit faster convergence compared to conventional variants of SVGD. | |
| キーワード | （和） | 粒子型変分推定 / 深層学習 / 深層展開 / / / / / |
| （英） | particle-based variational inference / deep learning / deep unfolding / / / / / | |
| 文献情報 | 信学技報, vol. 123, no. 99, SIP2023-24, pp. 37-42, 2023年7月. | |
| 資料番号 | SIP2023-24 | |
| 発行日 | 2023-06-29 (CAS, VLD, SIP, MSS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | CAS2023-8 VLD2023-8 SIP2023-24 MSS2023-8 |
|
| 研究会情報 | |
| 研究会 | MSS CAS SIP VLD |
| 開催期間 | 2023-07-06 - 2023-07-07 |
| 開催地（和） | 小樽商科大学 3号館 102教室 |
| 開催地（英） | |
| テーマ（和） | システムと信号処理および一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SIP |
| 会議コード | 2023-07-MSS-CAS-SIP-VLD |
| 本文の言語 | 日本語 |
| タイトル（和） | 深層展開による粒子型変分推定の収束加速 |
| サブタイトル（和） | |
| タイトル（英） | Convergence Acceleration of Particle-based Variational Inference by Deep Unfolding |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 粒子型変分推定 / particle-based variational inference |
| キーワード(2)（和/英） | 深層学習 / deep learning |
| キーワード(3)（和/英） | 深層展開 / deep unfolding |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 河村 祐弥 / Yuya Kawamura / カワムラ ユウヤ |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech) |
| 第2著者 氏名（和/英/ヨミ） | 高邉 賢史 / Satoshi Takabe / タカベ サトシ |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech) |
| 講演者 | 第1著者 |
| 発表日時 | 2023-07-06 14:40:00 |
| 発表時間 | 20分 |
| 申込先研究会 | SIP |
| 資料番号 | CAS2023-8, VLD2023-8, SIP2023-24, MSS2023-8 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | no.97(CAS), no.98(VLD), no.99(SIP), no.100(MSS) |
| ページ範囲 | pp.37-42 |
| ページ数 | 6 |
| 発行日 | 2023-06-29 (CAS, VLD, SIP, MSS) |
[研究会発表申込システムのトップページに戻る]