講演抄録/キーワード |
講演名 |
2018-09-07 13:10
Fine-tuningに基づくショートテキストの自動分類 ○志村和也・李 吉屹・福本文代(山梨大) NLC2018-20 |
抄録 |
(和) |
本研究では,階層構造を利用することにより,複数のラベルが付与されたショートテキストを高精度で分類する手法を提案する.カテゴリの階層構造において,下位のレベルは訓練データ量が少ないため,分類精度は低下する.本研究ではこの問題を解決するために,畳み込みニューラルネットワーク (CNN) の Fine-tuning を利用した.具体的には,階層構造の各レベルごとに CNN を用いて学習を行い,親レベルで得られたパラメータを子レベルを学習する際の CNN のパラメータの初期値として利用する.この処理を階層構造のトップレベルから最下層レベルまで繰り返し行うことにより, CNN のモデルを学習した.ベンチマークデータセットとして RCV1 データセットを用いた実験の結果,提案手法は CNN を用いた State-of-the-art の手法である XML-CNN と比べ,マイクロ平均 F 値で 1.2% ,マクロ平均 F 値で 7.4% の精度の向上が確認できた. |
(英) |
We propose an approach for multi-label categorization of short texts and explore the use of a hierarchical structure (HS) of categories. The lower the HS level, the worse the categorization performance because the number of training data per category in the lower level is much smaller than that in the upper level. We use a transfer learning technique by fine-tuning to learn the hierarchical structure of categories. We applied the Convolutional Neural Network (CNN) with fine-tuning. By transferring and finely tuning the trained parameters of CNN at each level of HS, we aim to improve the accuracy at the lower level of the HS. The results using a benchmark dataset show that the proposed method is competitive with the state-of-the-art CNN based multi-label categorization method XML-CNN, as the improvement of our method attained at 1.2% in Micro-F1 and 7.4% in Macro-F1 compared with XML-CNN. |
キーワード |
(和) |
ショートテキスト分類 / マルチラベル分類 / 畳み込みニューラルネットワーク / Fine-tuning / / / / |
(英) |
short text categorization / multi-label categorization / convolutional neural network / fine-tuning / / / / |
文献情報 |
信学技報, vol. 118, no. 210, NLC2018-20, pp. 73-78, 2018年9月. |
資料番号 |
NLC2018-20 |
発行日 |
2018-08-30 (NLC) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
NLC2018-20 |
研究会情報 |
研究会 |
NLC IPSJ-DC |
開催期間 |
2018-09-06 - 2018-09-07 |
開催地(和) |
成蹊大学 |
開催地(英) |
Seikei University |
テーマ(和) |
第13回 テキストアナリティクス・シンポジウム |
テーマ(英) |
The Thirteenth Text Analytics Symposium |
講演論文情報の詳細 |
申込み研究会 |
NLC |
会議コード |
2018-09-NLC-DC |
本文の言語 |
日本語 |
タイトル(和) |
Fine-tuningに基づくショートテキストの自動分類 |
サブタイトル(和) |
|
タイトル(英) |
Short text categorization with fine-tuning |
サブタイトル(英) |
|
キーワード(1)(和/英) |
ショートテキスト分類 / short text categorization |
キーワード(2)(和/英) |
マルチラベル分類 / multi-label categorization |
キーワード(3)(和/英) |
畳み込みニューラルネットワーク / convolutional neural network |
キーワード(4)(和/英) |
Fine-tuning / fine-tuning |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
志村 和也 / Kazuya Shimura / シムラ カズヤ |
第1著者 所属(和/英) |
山梨大学 (略称: 山梨大)
University of Yamanashi (略称: Univ of Yamanashi) |
第2著者 氏名(和/英/ヨミ) |
李 吉屹 / Jiyi Li / ジイ リ |
第2著者 所属(和/英) |
山梨大学 (略称: 山梨大)
University of Yamanashi (略称: Univ of Yamanashi) |
第3著者 氏名(和/英/ヨミ) |
福本 文代 / Fumiyo Fukumoto / フクモト フミヨ |
第3著者 所属(和/英) |
山梨大学 (略称: 山梨大)
University of Yamanashi (略称: Univ of Yamanashi) |
第4著者 氏名(和/英/ヨミ) |
/ / |
第4著者 所属(和/英) |
(略称: )
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2018-09-07 13:10:00 |
発表時間 |
25分 |
申込先研究会 |
NLC |
資料番号 |
NLC2018-20 |
巻番号(vol) |
vol.118 |
号番号(no) |
no.210 |
ページ範囲 |
pp.73-78 |
ページ数 |
6 |
発行日 |
2018-08-30 (NLC) |