| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2020-07-16 14:45 変分ベイズ法によって導出された近似事後分布を用いた予測分布とベイズ予測分布の$alpha$-ダイバージェンスの漸近評価 ○山田一翔・齋藤翔太・松嶋敏泰（早大）  IT2020-14 |
|
| 抄録 | （和） | 本稿では，i.i.d.確率変数列${X_i }_{i=1}^{n}$が与えられたもとで$X_{n+1}$の確率分布を決定する問題を考える．$X_{n+1}$の確率分布に損失として対数損失を仮定し，ベイズ規準のもと最適なベイズ予測分布を導出する．このとき，ベイズ予測分布に登場する事後分布が潜在変数を含むモデルを考える場合，解析的に求めることが困難である．このとき，事後分布を変分ベイズ法でもとめた近似事後分布で代用した新しい予測分布を考える．これを用いて予測を行うが，この予測分布がベイズ予測分布にどれくらい近いのかを確かめる必要がある．従来，いくつかの仮定のもとベイズ予測分布と代用した新しい分布との差を全変動で測ったときの差が漸近的に0へ確率収束することが証明されていた．本研究ではこの差を$alpha$ダイバージェンスで測ったとき0へ確率収束することを証明する。また，従来研究がピンスカーの不等式を用いることで，本研究の系とし得られることも述べる． |
| （英） | In this paper, we consider the problem of determining probability distribution of $X_{n+1}$ given ${X_i }_{i=1}^{n}$ following i.i.d. distribution. We assume log loss on probability distribution of $X_{n+1}$ and derive Bayesian predictive distribution under Bayes criteria. When parametric model contains latent variables, it is difficult to obtain posterior distribution appearing in Bayesian predictive distribution analytically. In this situation, we constitute a new predictive distribution substituting posterior distribution to VB posterior derived by variational bayes. We need to verify how close new predictive distribution to Bayesian predictive distribution. Previous research shows that total variation between Bayesian predictive distribution and VB posterior predictive distribution converges to 0 in probability under some assumptions. We show that $alpha$-divergence between two predictive distributions also converges to 0 in probability. Also, previous research is naturally derived by our result by using Pinsker's inequality. | |
| キーワード | （和） | 漸近解析 / $alpha$ダイバージェンス / ベイズ予測分布 / 変分ベイズ法 / / / / |
| （英） | Asymptotic Analysis / $alpha$ divergence / Bayesian Predictive Distribution / Variational Bayes / / / / | |
| 文献情報 | 信学技報, vol. 120, no. 105, IT2020-14, pp. 19-23, 2020年7月. | |
| 資料番号 | IT2020-14 | |
| 発行日 | 2020-07-09 (IT) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IT2020-14 |
|
| 研究会情報 | |
| 研究会 | IT |
| 開催期間 | 2020-07-16 - 2020-07-16 |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | フレッシュマンセッション，一般 |
| テーマ（英） | Freshman session, General |
| 講演論文情報の詳細 | |
| 申込み研究会 | IT |
| 会議コード | 2020-07-IT |
| 本文の言語 | 日本語 |
| タイトル（和） | 変分ベイズ法によって導出された近似事後分布を用いた予測分布とベイズ予測分布の$alpha$-ダイバージェンスの漸近評価 |
| サブタイトル（和） | |
| タイトル（英） | Asymptotic Evaluation of $alpha$-divergence between VB Posterior Predictive Distribution and Bayesian Predictive Distribution |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 漸近解析 / Asymptotic Analysis |
| キーワード(2)（和/英） | $alpha$ダイバージェンス / $alpha$ divergence |
| キーワード(3)（和/英） | ベイズ予測分布 / Bayesian Predictive Distribution |
| キーワード(4)（和/英） | 変分ベイズ法 / Variational Bayes |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 山田 一翔 / Kazuki Yamada / ヤマダ カズキ |
| 第1著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 齋藤 翔太 / Shota Saito / サイトウ ショウタ |
| 第2著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 松嶋 敏泰 / Toshiyasu Matsushima / マツシマ トシヤス |
| 第3著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2020-07-16 14:45:00 |
| 発表時間 | 25分 |
| 申込先研究会 | IT |
| 資料番号 | IT2020-14 |
| 巻番号（vol） | vol.120 |
| 号番号（no） | no.105 |
| ページ範囲 | pp.19-23 |
| ページ数 | 5 |
| 発行日 | 2020-07-09 (IT) |
[研究会発表申込システムのトップページに戻る]