| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-09-03 10:20 JaFIn：日本語金融インストラクションデータセット 田邉耕太（北大）・鈴木雅弘（東大）・○坂地泰紀・野田五十樹（北大）  NLC2024-16 |
|
| 抄録 | （和） | 大規模言語モデル（LLM）を含む言語モデルのドメイン適応は，言語モデルが普及するにつれて注目を集めている．本研究では，インストラクションチューニングによるドメイン適応が有効であることを示す．そのために，日本語金融インストラクションデータセットであるJaFInを提案する．JaFInは，日本政府のウェブサイトを含む複数のデータソースに基づいて手動で構築され，豊富な金融知識を含む．いくつかのLLMに対してJaFInを用いてインストラクションチューニング適用し，金融に特化したモデルが元のモデルよりも優れたドメイン適応性を持つことを示す．金融に特化したLLMは，定量的な日本の金融ベンチマークと定性的な応答比較を用いて評価され，元のモデルよりも性能が向上することを確認した． |
| （英） | We construct an instruction dataset for the large language model (LLM) in the Japanese finance domain. Domain adaptation of language models, including LLMs, is receiving more attention as language models become more popular. This study demonstrates the effectiveness of domain adaptation through instruction tuning. To achieve this, we propose an instruction tuning data in Japanese called JaFIn, the Japanese Financial Instruction Dataset. JaFIn is manually constructed based on multiple data sources, including Japanese government websites, which provide extensive financial knowledge. We then utilize JaFIn to apply instruction tuning for several LLMs, demonstrating that our models specialized in finance have better domain adaptability than the original models. The financial-specialized LLMs created were evaluated using a quantitative Japanese financial benchmark and qualitative response comparisons, showing improved performance over the originals. |
|
| キーワード | （和） | 大規模言語モデル / 金融データセット / インストラクションチューニング / / / / / |
| （英） | Large Language Model / Financial Dataset / Instruction Tuning / / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 173, NLC2024-16, pp. 87-92, 2024年9月. | |
| 資料番号 | NLC2024-16 | |
| 発行日 | 2024-08-26 (NLC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NLC2024-16 |
|
| 研究会情報 | |
| 研究会 | NLC |
| 開催期間 | 2024-09-02 - 2024-09-03 |
| 開催地（和） | 北海道大学 クラーク会館 大集会室1 |
| 開催地（英） | Hokkaido University. The Clark Memorial Student Center. |
| テーマ（和） | 第21回テキストアナリティクス・シンポジウム |
| テーマ（英） | The 21st Text Analytics Symposium |
| 講演論文情報の詳細 | |
| 申込み研究会 | NLC |
| 会議コード | 2024-09-NLC |
| 本文の言語 | 日本語 |
| タイトル（和） | JaFIn：日本語金融インストラクションデータセット |
| サブタイトル（和） | |
| タイトル（英） | JaFIn: Japanese Financial Instruction Dataset |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 大規模言語モデル / Large Language Model |
| キーワード(2)（和/英） | 金融データセット / Financial Dataset |
| キーワード(3)（和/英） | インストラクションチューニング / Instruction Tuning |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 田邉 耕太 / Kota Tanabe / タナベ コウタ |
| 第1著者 所属（和/英） | 北海道大学 (略称： 北大) Hokkaido University (略称： Hokkaido Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 鈴木 雅弘 / Masahiro Suzuki / スズキ マサヒロ |
| 第2著者 所属（和/英） | 東京大学 (略称： 東大) The University of Tokyo (略称： Tokyo Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 坂地 泰紀 / Hiroki Sakaji / サカジ ヒロキ |
| 第3著者 所属（和/英） | 北海道大学 (略称： 北大) Hokkaido University (略称： Hokkaido Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 野田 五十樹 / Itsuki Noda / ノダ イツキ |
| 第4著者 所属（和/英） | 北海道大学 (略称： 北大) Hokkaido University (略称： Hokkaido Univ.) |
| 講演者 | 第3著者 |
| 発表日時 | 2024-09-03 10:20:00 |
| 発表時間 | 20分 |
| 申込先研究会 | NLC |
| 資料番号 | NLC2024-16 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.173 |
| ページ範囲 | pp.87-92 |
| ページ数 | 6 |
| 発行日 | 2024-08-26 (NLC) |
[研究会発表申込システムのトップページに戻る]