| 講演抄録/キーワード |
| 講演名 |
2023-06-30 11:10
条件付き相互情報量の最小化による分布外汎化手法の性能低下について ○高橋元気・田中利幸(京大) NC2023-15 IBISML2023-15 |
| 抄録 |
(和) |
分布外汎化問題では,訓練時・テスト時のデータ生成分布の変化の度合いが少ない程モデルの分布外汎化誤差は小さいと期待される.本研究では,任意に小さなKL情報量の値を持つ二つの分布が,任意に大きな相互情報量の差を取り得る設定を考察した.得られた結果は,条件付き相互情報量最小化による分布外汎化手法が,訓練時・テスト時の分布の変化の度合いが小さくても,分布外汎化誤差を著しく増加させ得ることを示唆している. |
| (英) |
In the out-of-distribution generalization problem, the smaller the degree of change in the data generating distribution during training and testing, the smaller the out-of-distribution generalization error of the model is expected to be. In this study, we devised a setting in which two distributions with an arbitrarily small KL divergence value can have an arbitrarily large difference in mutual information. This result suggests that out-of-distribution generalization methods based on conditional mutual information minimization can significantly increase the out-of-distribution generalization error even when the degree of change in the data generating distribution during training and testing is small. |
| キーワード |
(和) |
分布外汎化 / 情報理論 / 表現学習 / / / / / |
| (英) |
Out-of-distribution generalization / Information theory / Representation learning / / / / / |
| 文献情報 |
信学技報, vol. 123, no. 91, IBISML2023-15, pp. 91-97, 2023年6月. |
| 資料番号 |
IBISML2023-15 |
| 発行日 |
2023-06-22 (NC, IBISML) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NC2023-15 IBISML2023-15 |
| 研究会情報 |
| 研究会 |
NC IBISML IPSJ-BIO IPSJ-MPS |
| 開催期間 |
2023-06-29 - 2023-07-01 |
| 開催地(和) |
沖縄科学技術大学院大学カンファレンス・センター |
| 開催地(英) |
OIST Conference Center |
| テーマ(和) |
機械学習によるバイオデータマイニング、一般 |
| テーマ(英) |
|
| 講演論文情報の詳細 |
| 申込み研究会 |
IBISML |
| 会議コード |
2023-06-NC-IBISML-BIO-MPS |
| 本文の言語 |
日本語 |
| タイトル(和) |
条件付き相互情報量の最小化による分布外汎化手法の性能低下について |
| サブタイトル(和) |
|
| タイトル(英) |
On performance degradation of a method by minimizing the conditional mutual information for the out-of-distribution generalization |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
分布外汎化 / Out-of-distribution generalization |
| キーワード(2)(和/英) |
情報理論 / Information theory |
| キーワード(3)(和/英) |
表現学習 / Representation learning |
| キーワード(4)(和/英) |
/ |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
高橋 元気 / Genki Takahashi / タカハシ ゲンキ |
| 第1著者 所属(和/英) |
京都大学 (略称: 京大)
Kyoto University (略称: Kyoto University) |
| 第2著者 氏名(和/英/ヨミ) |
田中 利幸 / Toshiyuki Tanaka / タナカ トシユキ |
| 第2著者 所属(和/英) |
京都大学 (略称: 京大)
Kyoto University (略称: Kyoto University) |
| 第3著者 氏名(和/英/ヨミ) |
/ / |
| 第3著者 所属(和/英) |
(略称: )
(略称: ) |
| 第4著者 氏名(和/英/ヨミ) |
/ / |
| 第4著者 所属(和/英) |
(略称: )
(略称: ) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2023-06-30 11:10:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
IBISML |
| 資料番号 |
NC2023-15, IBISML2023-15 |
| 巻番号(vol) |
vol.123 |
| 号番号(no) |
no.90(NC), no.91(IBISML) |
| ページ範囲 |
pp.91-97 |
| ページ数 |
7 |
| 発行日 |
2023-06-22 (NC, IBISML) |
|