講演抄録/キーワード |
講演名 |
2016-03-10 13:40
条件付きShannonエントロピーとノルムの期待値との関係とその応用 ○阪井祐太・岩田賢一(福井大) IT2015-109 ISEC2015-68 WBS2015-92 |
抄録 |
(和) |
確率変数に対する情報測度は,確率論や情報理論,統計学,パターン認識,暗号理論,機械学習などの分野にて幅広く利用されている.これら情報測度を用いる研究において,情報測度に対する不等式は,様々な形で応用されている.情報理論においてよく議論される情報測度として,公理的に定義されたエントロピーは,一般にノルムと深い関係がある.本研究では,Shannonエントロピーとノルムとの間の厳密な界を示し,ノルムによって定まる情報測度とShannonエントロピーとの間の関係を調べる.さらに本研究では,この議論を条件付きの情報測度へ拡張した結果も示す.本結果の応用として,Gallager形式の通信路符号化定理に対して,ある種の定理の精密化を行う. |
(英) |
The paper investigates the extremal relations between the Shannon entropy and the $ell_{alpha}$-norm. More precisely, the exact ranges between the Shannon entropy and the $ell_{alpha}$-norm are examined for probability distributions on a finite alphabet. Furthermore, we extend the above results from unconditional information measures to conditional information measures. Then, we reveal the exact ranges between the conditional Shannon entropy and the expectation of ell_{alpha}-norm for joint probability distributions. As applications, we examine the tight bounds of reliability functions for discrete memoryless channels. |
キーワード |
(和) |
Shannonエントロピー / ノルム / R'{e}nyiエントロピー / 条件付きエントロピー / Gallagerの$E_{0}$関数 / / / |
(英) |
Shannon entropy / $ell_{alpha}$-norm / R'{e}nyi entropy / conditional entropy / Gallager's $E_{0}$ function / / / |
文献情報 |
信学技報, vol. 115, no. 500, IT2015-109, pp. 49-54, 2016年3月. |
資料番号 |
IT2015-109 |
発行日 |
2016-03-03 (IT, ISEC, WBS) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IT2015-109 ISEC2015-68 WBS2015-92 |
研究会情報 |
研究会 |
IT ISEC WBS |
開催期間 |
2016-03-10 - 2016-03-11 |
開催地(和) |
電気通信大学 |
開催地(英) |
The University of Electro-Communications |
テーマ(和) |
IT・ISEC・WBS合同研究会 |
テーマ(英) |
joint meeting of IT, ISEC, and WBS |
講演論文情報の詳細 |
申込み研究会 |
IT |
会議コード |
2016-03-IT-ISEC-WBS |
本文の言語 |
英語(日本語タイトルあり) |
タイトル(和) |
条件付きShannonエントロピーとノルムの期待値との関係とその応用 |
サブタイトル(和) |
|
タイトル(英) |
Relations Between Conditional Shannon Entropy and Expectation of Norm and Their Applications |
サブタイトル(英) |
|
キーワード(1)(和/英) |
Shannonエントロピー / Shannon entropy |
キーワード(2)(和/英) |
ノルム / $ell_{alpha}$-norm |
キーワード(3)(和/英) |
R'{e}nyiエントロピー / R'{e}nyi entropy |
キーワード(4)(和/英) |
条件付きエントロピー / conditional entropy |
キーワード(5)(和/英) |
Gallagerの$E_{0}$関数 / Gallager's $E_{0}$ function |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
阪井 祐太 / Yuta Sakai / サカイ ユウタ |
第1著者 所属(和/英) |
福井大学 (略称: 福井大)
University of Fukui (略称: Univ. of Fukui) |
第2著者 氏名(和/英/ヨミ) |
岩田 賢一 / Ken-ichi Iwata / イワタ ケンイチ |
第2著者 所属(和/英) |
福井大学 (略称: 福井大)
University of Fukui (略称: Univ. of Fukui) |
第3著者 氏名(和/英/ヨミ) |
/ / |
第3著者 所属(和/英) |
(略称: )
(略称: ) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
第21著者 氏名(和/英/ヨミ) |
/ / |
第21著者 所属(和/英) |
(略称: )
(略称: ) |
第22著者 氏名(和/英/ヨミ) |
/ / |
第22著者 所属(和/英) |
(略称: )
(略称: ) |
第23著者 氏名(和/英/ヨミ) |
/ / |
第23著者 所属(和/英) |
(略称: )
(略称: ) |
第24著者 氏名(和/英/ヨミ) |
/ / |
第24著者 所属(和/英) |
(略称: )
(略称: ) |
第25著者 氏名(和/英/ヨミ) |
/ / |
第25著者 所属(和/英) |
(略称: )
(略称: ) |
第26著者 氏名(和/英/ヨミ) |
/ / |
第26著者 所属(和/英) |
(略称: )
(略称: ) |
第27著者 氏名(和/英/ヨミ) |
/ / |
第27著者 所属(和/英) |
(略称: )
(略称: ) |
第28著者 氏名(和/英/ヨミ) |
/ / |
第28著者 所属(和/英) |
(略称: )
(略称: ) |
第29著者 氏名(和/英/ヨミ) |
/ / |
第29著者 所属(和/英) |
(略称: )
(略称: ) |
第30著者 氏名(和/英/ヨミ) |
/ / |
第30著者 所属(和/英) |
(略称: )
(略称: ) |
第31著者 氏名(和/英/ヨミ) |
/ / |
第31著者 所属(和/英) |
(略称: )
(略称: ) |
第32著者 氏名(和/英/ヨミ) |
/ / |
第32著者 所属(和/英) |
(略称: )
(略称: ) |
第33著者 氏名(和/英/ヨミ) |
/ / |
第33著者 所属(和/英) |
(略称: )
(略称: ) |
第34著者 氏名(和/英/ヨミ) |
/ / |
第34著者 所属(和/英) |
(略称: )
(略称: ) |
第35著者 氏名(和/英/ヨミ) |
/ / |
第35著者 所属(和/英) |
(略称: )
(略称: ) |
第36著者 氏名(和/英/ヨミ) |
/ / |
第36著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2016-03-10 13:40:00 |
発表時間 |
25分 |
申込先研究会 |
IT |
資料番号 |
IT2015-109, ISEC2015-68, WBS2015-92 |
巻番号(vol) |
vol.115 |
号番号(no) |
no.500(IT), no.501(ISEC), no.502(WBS) |
ページ範囲 |
pp.49-54 |
ページ数 |
6 |
発行日 |
2016-03-03 (IT, ISEC, WBS) |
|