| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-09-12 09:00 マルチタスク学習とタスク特化型大規模言語モデルを併用した関係抽出 ○林 知司・宮森 恒（京都産大）  DE2024-5 |
|
| 抄録 | （和） | テキストからエンティティ間の関係を抽出する関係抽出は，知識グラフの構築や様々なイベントの問題点や対処法の発見につながるため重要である．従来研究では，固有表現認識と関係抽出のタスクをマルチタスク学習で実現する手法が提案されており，それまでの既存手法より高い性能を示している．しかし，この手法は，共有層とタスク固有の層の個数の均衡に影響される課題があり，関係抽出タスクでは必ずしも十分な性能を示せていない．そこで，本稿では，大規模言語モデルがもつ優れた表現に着目し，タスク特化型の大規模言語モデルの最終隠れ層を，マルチタスク学習の共有層に連結する関係抽出手法を提案する．実験では，固有表現認識に特化したモデルを併用してマルチタスク学習を行う手法，タスク特化型大規模言語モデルを用いた手法との性能を比較することにより，提案手法の有用性を検証する． |
| （英） | Relation extraction, which extracts relations between entities from text, is important because it leads to the construction of knowledge graphs and the discovery of problems and solutions to various events. Previous research has proposed a method that performs the tasks of entity recognition and relation extraction using multitask learning, and it has shown higher performance than existing methods. However, this method is affected by the equilibrium between the number of shared layers and task-specific layers, and does not necessarily show sufficient performance in the relation extraction task. In this paper, we propose a relation extraction method that connects the final hidden layer of a task-specific large language model to the shared layer of multi-task learning, focusing on the superiority of expressions in large language models. In experiments, we verify the usefulness of the proposed method by comparing its performance with that of a multitask learning method using a model specialized for recognition of unique expressions in combination with a method using a task-specific large language model. | |
| キーワード | （和） | マルチタスク学習 / 大規模言語モデル / 関係抽出 / 固有表現認識 / / / / |
| （英） | Multi-task Learning / Large Language Models / Relation Extraction / Named Entity Recognition / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 185, DE2024-5, pp. 7-12, 2024年9月. | |
| 資料番号 | DE2024-5 | |
| 発行日 | 2024-09-04 (DE) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | DE2024-5 |
|
| 研究会情報 | |
| 研究会 | DE IPSJ-DBS IPSJ-IFAT |
| 開催期間 | 2024-09-11 - 2024-09-12 |
| 開催地（和） | 淡路夢舞台 |
| 開催地（英） | Awaji Yumebutai |
| テーマ（和） | ビッグデータを対象とした管理・情報検索・知識獲得および一般 |
| テーマ（英） | Bigdata management, information retrieval, knowledge discovery, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | DE |
| 会議コード | 2024-09-DE-DBS-IFAT |
| 本文の言語 | 日本語 |
| タイトル（和） | マルチタスク学習とタスク特化型大規模言語モデルを併用した関係抽出 |
| サブタイトル（和） | |
| タイトル（英） | Relation extraction using a combination of multi-task learning and task-specific large language models |
| サブタイトル（英） | |
| キーワード(1)（和/英） | マルチタスク学習 / Multi-task Learning |
| キーワード(2)（和/英） | 大規模言語モデル / Large Language Models |
| キーワード(3)（和/英） | 関係抽出 / Relation Extraction |
| キーワード(4)（和/英） | 固有表現認識 / Named Entity Recognition |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 林 知司 / Tomokazu Hayashi / ハヤシ トモカズ |
| 第1著者 所属（和/英） | 京都産業大学 (略称： 京都産大) Kyoto Sangyo University (略称： Kyoto Sangyo Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 宮森 恒 / Hisashi Miyamori / |
| 第2著者 所属（和/英） | 京都産業大学 (略称： 京都産大) Kyoto Sangyo University (略称： Kyoto Sangyo Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-09-12 09:00:00 |
| 発表時間 | 25分 |
| 申込先研究会 | DE |
| 資料番号 | DE2024-5 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.185 |
| ページ範囲 | pp.7-12 |
| ページ数 | 6 |
| 発行日 | 2024-09-04 (DE) |
[研究会発表申込システムのトップページに戻る]