| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2022-12-22 15:10 データ生成分布が学習モデルの特異点の近傍にあるときの事前分布の影響について ○槇 望・渡辺澄夫（東工大）  IBISML2022-46 |
|
| 抄録 | （和） | 深層学習や混合正規分布のように階層構造を持ち潜在変数を含む学習モデルはパラメータ空間に特異点を含むたため正則なモデルとは異なる学習の挙動を持っている.それらのモデルの汎化誤差の漸近挙動は,データ生成分布を定めるパラメータが学習モデルの特異点であってもなくても実対数閾値で与えられることが示されている.しかしながら,データ生成分布を定めるパラメータが特異点の近傍にあるが特異点と一致していない場合についての汎化誤差の挙動については十分には解明されていなかった.本論文では,階層的な構造を持つ学習モデルにおいて,データ生成分布が特異点の近傍にある場合を考察し,データ生成分布と特異点の距離の関数としての汎化誤差に事前分布の特徴が与える影響を明らかにする. |
| （英） | Learning machines which have hierarchical structure or latent variables such as deep learning or normal mixtures contains singularities in their parameter spaces, resulting that they have different learning behaviors from regular statistical models. Their generalization performance is determined by the real log canonical threshold even if the data-generating process is represented by a singularities or not. However, the generalization performance has been left unknown when a data-generating process is not equal to a singularity but in a neighborhood of a singularity. In this paper we show that the effect of the prior distribution to the generalization error when a data-generating process is not equal to a singularity but in a neighborhood of a singularity. | |
| キーワード | （和） | 特異モデル / データ生成分布 / 事前分布 / 汎化誤差 / / / / |
| （英） | Singular Learning Machines / Data-Generating Process / Prior Distribution / Generalization Error / / / / | |
| 文献情報 | 信学技報, vol. 122, no. 325, IBISML2022-46, pp. 18-23, 2022年12月. | |
| 資料番号 | IBISML2022-46 | |
| 発行日 | 2022-12-15 (IBISML) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IBISML2022-46 |
|
| 研究会情報 | |
| 研究会 | IBISML |
| 開催期間 | 2022-12-22 - 2022-12-23 |
| 開催地（和） | 京都大学 |
| 開催地（英） | Kyoto University |
| テーマ（和） | 機械学習一般 |
| テーマ（英） | Machine Learning, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2022-12-IBISML |
| 本文の言語 | 日本語 |
| タイトル（和） | データ生成分布が学習モデルの特異点の近傍にあるときの事前分布の影響について |
| サブタイトル（和） | |
| タイトル（英） | Effect of Prior Distribution when Data-Generating Process is in a Neighborhood of Singularities of Learning Machines |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 特異モデル / Singular Learning Machines |
| キーワード(2)（和/英） | データ生成分布 / Data-Generating Process |
| キーワード(3)（和/英） | 事前分布 / Prior Distribution |
| キーワード(4)（和/英） | 汎化誤差 / Generalization Error |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 槇 望 / Nozomi Maki / マキ ノゾミ |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： TokyoTech) |
| 第2著者 氏名（和/英/ヨミ） | 渡辺 澄夫 / Sumio Watanabe / ワタナベ スミオ |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： TokyoTech) |
| 講演者 | 第1著者 |
| 発表日時 | 2022-12-22 15:10:00 |
| 発表時間 | 20分 |
| 申込先研究会 | IBISML |
| 資料番号 | IBISML2022-46 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | no.325 |
| ページ範囲 | pp.18-23 |
| ページ数 | 6 |
| 発行日 | 2022-12-15 (IBISML) |
[研究会発表申込システムのトップページに戻る]