| 講演抄録/キーワード |
| 講演名 |
2017-11-24 13:25
類語を考慮した単語分散表現の段階的学習 ○米倉千晶・萩原将文(慶大) NC2017-28 |
| 抄録 |
(和) |
自然言語処理において,単語を機械で扱うための表現方法のひとつに分散表現がある.本稿では,代表的な分散表現学習モデルであるword2vecの学習段階について工夫・改良を行ったモデルを提案する.提案モデルは,認知科学的知見に基づいた工夫を行っている.まずCurriculum Learningに基づき,頻出単語から順に学習を行い徐々に語彙を拡張していく.さらに語彙を拡張する際に,Paraphrase Database(PPDB)を利用することで新出単語に対して類語の情報を与える.評価実験の結果,段階的学習により精度を向上させながら学習時間の削減が実現されたこと,また類語を考慮することにより更なる精度向上の可能性があることを確認した. |
| (英) |
In natural language processing, distributed word representation is one of the representation methods for treating words with machines. In this paper, we propose a model improved on the learning phase of word2vec which is a popular model of distributed word representations learning. Our proposed model is devised based on cognitive scientific knowledge. Firstly, based on Curriculum Learning, the model trains from frequently occurring words in order and gradually expands the learning vocabulary. Furthermore, when extending the vocabulary we give synonym information to unknown words by using Paraphrase Database (PPDB). As a result of the experiments, step-by-step learning of our model reduced learning time while improving the accuracy, and the accuracy can be further improved by considering synonym. |
| キーワード |
(和) |
分散表現 / word2vec / ニューラルネットワーク / Curriculum Learning / PPDB / / / |
| (英) |
Distributed Representation / word2vec / Neural Network / Curriculum Learning / PPDB / / / |
| 文献情報 |
信学技報, vol. 117, no. 325, NC2017-28, pp. 7-12, 2017年11月. |
| 資料番号 |
NC2017-28 |
| 発行日 |
2017-11-17 (NC) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NC2017-28 |