講演抄録/キーワード |
講演名 |
2023-03-03 17:10
Forest Construction of Gaussian and Discrete Variables based on WBIC ○Ashraful Islam・Joe Suzuki(Osaka Univ.) PRMU2022-126 IBISML2022-133 |
抄録 |
(和) |
Mutual information is a metric that determines the association between two random variables by measuring the amount of information one variable holds about the other. It quantifies the dependency between them. A higher mutual information value indicates a stronger relationship between the random variables. It is connected to entropy and finds application in various fields, such as information theory, statistics, and machine learning. To determine the mutual information between discrete variables, we need to use estimated joint probabilities based on samples of each categorized variable. Nevertheless, the traditional method could be more efficient in figuring out the mutual information of a mix of discrete and continuous random variables because it needs to determine the conditional probabilities for discrete variables given continuous variables. We propose a new MI method that can handle both discrete and continuous random variables at the same time. Our approach calculates the free energy of mutual information using the Watanabe Bayesian information criterion (WBIC), enabling the estimation of MI between discrete and continuous variables. This method can handle mixed variables more skillfully by overcoming the shortcomings of conventional mutual information estimation techniques. When incorporated into the Chow-Liu algorithm, the new MI estimator can create a forest rather than a spanning tree. |
(英) |
Mutual information is a metric that determines the association between two random variables by measuring the amount of information one variable holds about the other. It quantifies the dependency between them. A higher mutual information value indicates a stronger relationship between the random variables. It is connected to entropy and finds application in various fields, such as information theory, statistics, and machine learning. To determine the mutual information between discrete variables, we need to use estimated joint probabilities based on samples of each categorized variable. Nevertheless, the traditional method could be more efficient in figuring out the mutual information of a mix of discrete and continuous random variables because it needs to determine the conditional probabilities for discrete variables given continuous variables. We propose a new MI method that can handle both discrete and continuous random variables at the same time. Our approach calculates the free energy of mutual information using the Watanabe Bayesian information criterion (WBIC), enabling the estimation of MI between discrete and continuous variables. This method can handle mixed variables more skillfully by overcoming the shortcomings of conventional mutual information estimation techniques. When incorporated into the Chow-Liu algorithm, the new MI estimator can create a forest rather than a spanning tree. |
キーワード |
(和) |
Mutual Information / Chow-Liu Algorithm / Forest / Free Energy / WBIC / / / |
(英) |
Mutual Information / Chow-Liu Algorithm / Forest / Free Energy / WBIC / / / |
文献情報 |
信学技報, vol. 122, no. 405, IBISML2022-133, pp. 371-377, 2023年3月. |
資料番号 |
IBISML2022-133 |
発行日 |
2023-02-23 (PRMU, IBISML) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
PRMU2022-126 IBISML2022-133 |
研究会情報 |
研究会 |
PRMU IBISML IPSJ-CVIM |
開催期間 |
2023-03-02 - 2023-03-03 |
開催地(和) |
はこだて未来大学 |
開催地(英) |
Future University Hakodate |
テーマ(和) |
異分野連携(PRMU)、AutoML (CVIM)、機械学習の理論と応用の広がり(IBISML) |
テーマ(英) |
|
講演論文情報の詳細 |
申込み研究会 |
IBISML |
会議コード |
2023-03-PRMU-IBISML-CVIM |
本文の言語 |
英語 |
タイトル(和) |
|
サブタイトル(和) |
|
タイトル(英) |
Forest Construction of Gaussian and Discrete Variables based on WBIC |
サブタイトル(英) |
|
キーワード(1)(和/英) |
Mutual Information / Mutual Information |
キーワード(2)(和/英) |
Chow-Liu Algorithm / Chow-Liu Algorithm |
キーワード(3)(和/英) |
Forest / Forest |
キーワード(4)(和/英) |
Free Energy / Free Energy |
キーワード(5)(和/英) |
WBIC / WBIC |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
Ashraful Islam / Ashraful Islam / |
第1著者 所属(和/英) |
Osaka University (略称: 阪大)
Osaka University (略称: Osaka Univ.) |
第2著者 氏名(和/英/ヨミ) |
Joe Suzuki / Joe Suzuki / |
第2著者 所属(和/英) |
Osaka University (略称: 阪大)
Osaka University (略称: Osaka Univ.) |
第3著者 氏名(和/英/ヨミ) |
/ / |
第3著者 所属(和/英) |
(略称: )
(略称: ) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2023-03-03 17:10:00 |
発表時間 |
15分 |
申込先研究会 |
IBISML |
資料番号 |
PRMU2022-126, IBISML2022-133 |
巻番号(vol) |
vol.122 |
号番号(no) |
no.404(PRMU), no.405(IBISML) |
ページ範囲 |
pp.371-377 |
ページ数 |
7 |
発行日 |
2023-02-23 (PRMU, IBISML) |
|