| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-09-03 09:20 大規模言語モデルを用いたテキストの二値分類における定義文自動生成 ○高野海斗・中川 慧・藤本悠吾（野村アセットマネジメント）  NLC2024-14 |
|
| 抄録 | （和） | 一般に大規模言語モデル (LLM)を用いたテキスト分類は，解釈性が低く人手による調整が難しいという課題がある． 一方で，LLMに分類定義文を入力して分類するzero-shot learningの手法は，解釈性が高い． しかし，定義文を適切に言語化することは必ずしも容易ではない． そこで本研究では，テキストの二値分類における分類精度と解釈性の向上を目的として，LLMを用いた定義文の自動生成手法を提案する． 提案手法は，ラベル付きデータからサンプリングしたデータをLLMに入力することで，定義文を自動生成する． その後，自動生成した定義文を用いたpromptによりラベル付きデータを分類し，誤分類しているデータをLLMに入力することで定義文を更新する操作を繰り返すことで，より最適な定義文を自動生成する． 実際のテキストを用いた実証分析により，一般的な手法と比較して遜色のない結果が得られ，適切な定義文が得られることも確認できた． |
| （英） | Text classification using large language models~(LLMs) often has low interpretability and is hard to adjust manually. On the other hand, zero-shot learning, which uses definition statements in LLMs for classification, is more interpretable but creating good definition statements is a challenging task. Therfore, we propose a method to automatically generate definition statements using LLMs to improve classification accuracy and interpretability in (binary) text classification. The proposed method first randomly splits the labeled data and generates (initial) definition statements based on sampled data. Then, it classifies the labeled data using these statements and updates them by inputting misclassified data back into LLMs, repeating this process to improve the definition statements. Experiments with real-world texts show that the proposed method performs well compared to fine-tuned BERT model and LLM few-shot learning and creates appropriate definition sentences. |
|
| キーワード | （和） | 大規模言語モデル / prompt engineering / zero-shot learning / few-shot learning / BERT / / / |
| （英） | large language models / prompt engineering / zero-shot learning / few-shot learning / BERT / / / | |
| 文献情報 | 信学技報, vol. 124, no. 173, NLC2024-14, pp. 75-80, 2024年9月. | |
| 資料番号 | NLC2024-14 | |
| 発行日 | 2024-08-26 (NLC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NLC2024-14 |
|
| 研究会情報 | |
| 研究会 | NLC |
| 開催期間 | 2024-09-02 - 2024-09-03 |
| 開催地（和） | 北海道大学 クラーク会館 大集会室1 |
| 開催地（英） | Hokkaido University. The Clark Memorial Student Center. |
| テーマ（和） | 第21回テキストアナリティクス・シンポジウム |
| テーマ（英） | The 21st Text Analytics Symposium |
| 講演論文情報の詳細 | |
| 申込み研究会 | NLC |
| 会議コード | 2024-09-NLC |
| 本文の言語 | 日本語 |
| タイトル（和） | 大規模言語モデルを用いたテキストの二値分類における定義文自動生成 |
| サブタイトル（和） | |
| タイトル（英） | Automatic Generation Method of Definition Statements for Binary Classification of Texts Using Large Language Models |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 大規模言語モデル / large language models |
| キーワード(2)（和/英） | prompt engineering / prompt engineering |
| キーワード(3)（和/英） | zero-shot learning / zero-shot learning |
| キーワード(4)（和/英） | few-shot learning / few-shot learning |
| キーワード(5)（和/英） | BERT / BERT |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 高野 海斗 / Kaito Takano / タカノ カイト |
| 第1著者 所属（和/英） | 野村アセットマネジメント株式会社 (略称： 野村アセットマネジメント) Nomura Asset Management Co., Ltd. (略称： NAM) |
| 第2著者 氏名（和/英/ヨミ） | 中川 慧 / Kei Nakagawa / ナカガワ ケイ |
| 第2著者 所属（和/英） | 野村アセットマネジメント株式会社 (略称： 野村アセットマネジメント) Nomura Asset Management Co., Ltd. (略称： NAM) |
| 第3著者 氏名（和/英/ヨミ） | 藤本 悠吾 / Yugo Fujimoto / フジモト ユウゴ |
| 第3著者 所属（和/英） | 野村アセットマネジメント株式会社 (略称： 野村アセットマネジメント) Nomura Asset Management Co., Ltd. (略称： NAM) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-09-03 09:20:00 |
| 発表時間 | 20分 |
| 申込先研究会 | NLC |
| 資料番号 | NLC2024-14 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.173 |
| ページ範囲 | pp.75-80 |
| ページ数 | 6 |
| 発行日 | 2024-08-26 (NLC) |
[研究会発表申込システムのトップページに戻る]