| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2023-03-18 10:25 分散・共分散正則化を用いたニューラルトピックモデルの自己教師あり学習 ○平見健悟・許 蔚然・江口浩二（広島大）  NLC2022-20 |
|
| 抄録 | （和） | 大量の文書データから有益な情報を発見する手段の一つにトピックモデルが挙げられる.トピックモデルでは，各文書において複数の潜在的なトピックが確率的に生成され, 各トピックからその文書に出現する単語が確率的に生成されると仮定する. さらに, 文書毎のトピックの生成確率とトピック毎の単語の生成確率を, 文書において実際に観測される単語から推定することで文書の潜在的な意味を解析できる. 昨今では, ニューラルネットワークに基づいてトピックモデル実現する，ニューラルトピックモデルと呼ばれるモデルの研究が盛んである. ところで, 学習データに正解ラベルを与えずに，データ自身から疑似的なラベルを機械的に生成することにより学習を行う，自己教師あり学習という学習手法がある. 自己教師あり学習の一つに,VICReg正則化があり, 画像データなどにおいて有効性が示されている. 本研究ではVICReg正則化から着想を得て, ニューラルトピックモデルのための自己教師あり学習を新たに提案する. 提案手法を用いることにより, 従来のニューラルトピックモデルと比較してトピックの一貫性に関する評価指標において性能の改善が確認された. |
| （英） | ||
| キーワード | （和） | ニューラルトピックモデル / 自己教師あり学習 / 分散・共分散正則化 / / / / / |
| （英） | / / / / / / / | |
| 文献情報 | 信学技報, vol. 122, no. 449, NLC2022-20, pp. 7-11, 2023年3月. | |
| 資料番号 | NLC2022-20 | |
| 発行日 | 2023-03-11 (NLC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NLC2022-20 |
|
| 研究会情報 | |
| 研究会 | NLC IPSJ-NL |
| 開催期間 | 2023-03-18 - 2023-03-18 |
| 開催地（和） | 沖縄科学技術大学院大学 |
| 開催地（英） | OIST |
| テーマ（和） | 言語処理の産業・社会応用、および一般 |
| テーマ（英） | Applications of natural language processing, and etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | NLC |
| 会議コード | 2023-03-NLC-NL |
| 本文の言語 | 日本語 |
| タイトル（和） | 分散・共分散正則化を用いたニューラルトピックモデルの自己教師あり学習 |
| サブタイトル（和） | |
| タイトル（英） | |
| サブタイトル（英） | |
| キーワード(1)（和/英） | ニューラルトピックモデル / |
| キーワード(2)（和/英） | 自己教師あり学習 / |
| キーワード(3)（和/英） | 分散・共分散正則化 / |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 平見 健悟 / / ケンゴ ヒラミ |
| 第1著者 所属（和/英） | 広島大学 (略称： 広島大) (略称： ) |
| 第2著者 氏名（和/英/ヨミ） | 許 蔚然 / / キョ ウツゼン |
| 第2著者 所属（和/英） | 広島大学 (略称： 広島大) (略称： ) |
| 第3著者 氏名（和/英/ヨミ） | 江口 浩二 / / エグチ コウジ |
| 第3著者 所属（和/英） | 広島大学 (略称： 広島大) (略称： ) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2023-03-18 10:25:00 |
| 発表時間 | 20分 |
| 申込先研究会 | NLC |
| 資料番号 | NLC2022-20 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | no.449 |
| ページ範囲 | pp.7-11 |
| ページ数 | 5 |
| 発行日 | 2023-03-11 (NLC) |
[研究会発表申込システムのトップページに戻る]