講演抄録/キーワード |
講演名 |
2021-08-26 10:15
Bayes by Backprop法における適応的最適化の提案と低精度サンプリングによる確率キャリブレーション性能評価 ○西田圭吾(阪大/理研)・泰地真弘人(理研) PRMU2021-8 |
抄録 |
(和) |
ベイズニューラルネットワーク(BNN)はパラメータの不確実性をモデル化し,推論時の出力値を実際の正答率へ近づける確率キャリブレーションに優れている.Bayes by Backprop(BBB)法はパラメータの不確実性を誤差逆伝播法によって最適化できるBNNである.しかし,BBB法はパラメータの収束が遅いことや初期値の設定に関する知見が無い.本研究では,BBB法に適応的最適化の一つであるAdamを利用したAdamBを提案し,正答率と収束の改善を示した.また,初期値の変更や乱数の精度を落とした際の正答率と確率キャリブレーションの変化を評価し,確率キャリブレーションに初期値依存性があること,乱数を低精度化しても性能の劣化が起きないことを明らかにした. |
(英) |
(Available after conference date) |
キーワード |
(和) |
ベイズニューラルネットワーク / 確率キャリブレーション / 適応的最適化 / 専用ハードウェア / / / / |
(英) |
/ / / / / / / |
文献情報 |
信学技報, vol. 121, no. 155, PRMU2021-8, pp. 7-12, 2021年8月. |
資料番号 |
PRMU2021-8 |
発行日 |
2021-08-19 (PRMU) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
PRMU2021-8 |