| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2023-09-06 13:20 日本語インストラクションデータを用いた対話可能な日本語大規模言語モデルのLoRAチューニング ○鈴木雅弘・平野正徳・坂地泰紀（東大）  NLC2023-1 |
|
| 抄録 | （和） | 本研究では，日本語インストラクションデータを用い，日本語と英語のそれぞれをベースにした大規模言語モデル (LLM) に対してLoRAチューニングを行った．チューニングしたモデルに対し定量と定性による両面から評価を行い，日本語インストラクションデータによるチューニングの効果を確認した．また幅広いインストラクションデータや実際のモデルが出力した文字列による評価の必要性など，日本語における大規模言語モデルや言語資源における課題を明らかにした． |
| （英） | In this study, we performed LoRA tuning on large language models (LLM) based on both Japanese and English using Japanese instruction tuning and evaluated these models from both quantitative and qualitative perspectives. As a result of the evaluation, the effectiveness of tuning with Japanese instruction data was confirmed. Furthermore, we clarified the challenges in large-scale language models and language resources in Japanese, such as the need for evaluation using a wide range of instruction data and the actual output strings of the models. | |
| キーワード | （和） | 大規模言語モデル / 日本語 / インストラクションチューニング / / / / / |
| （英） | Large Language Model (LLM) / Japanese / Instruction Tuning / / / / / | |
| 文献情報 | 信学技報, vol. 123, no. 176, NLC2023-1, pp. 1-6, 2023年9月. | |
| 資料番号 | NLC2023-1 | |
| 発行日 | 2023-08-30 (NLC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NLC2023-1 |
|
| 研究会情報 | |
| 研究会 | NLC |
| 開催期間 | 2023-09-06 - 2023-09-07 |
| 開催地（和） | 大阪公立大学 中百舌鳥キャンパス |
| 開催地（英） | Osaka Metropolitan University. Nakamozu Campus. |
| テーマ（和） | 第20回テキストアナリティクス・シンポジウム |
| テーマ（英） | The 20th Text Analytics Symposium |
| 講演論文情報の詳細 | |
| 申込み研究会 | NLC |
| 会議コード | 2023-09-NLC |
| 本文の言語 | 日本語 |
| タイトル（和） | 日本語インストラクションデータを用いた対話可能な日本語大規模言語モデルのLoRAチューニング |
| サブタイトル（和） | |
| タイトル（英） | LoRA Tuning Conversational Japanese Large Language Models using Japanese Instruction Dataset |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 大規模言語モデル / Large Language Model (LLM) |
| キーワード(2)（和/英） | 日本語 / Japanese |
| キーワード(3)（和/英） | インストラクションチューニング / Instruction Tuning |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 鈴木 雅弘 / Masahiro Suzuki / スズキ マサヒロ |
| 第1著者 所属（和/英） | 東京大学 (略称： 東大) The University of Tokyo (略称： UTokyo) |
| 第2著者 氏名（和/英/ヨミ） | 平野 正徳 / Masanori Hirano / ヒラノ マサノリ |
| 第2著者 所属（和/英） | 東京大学 (略称： 東大) The University of Tokyo (略称： UTokyo) |
| 第3著者 氏名（和/英/ヨミ） | 坂地 泰紀 / Hiroki Sakaji / サカジ ヒロキ |
| 第3著者 所属（和/英） | 東京大学 (略称： 東大) The University of Tokyo (略称： UTokyo) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2023-09-06 13:20:00 |
| 発表時間 | 25分 |
| 申込先研究会 | NLC |
| 資料番号 | NLC2023-1 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | no.176 |
| ページ範囲 | pp.1-6 |
| ページ数 | 6 |
| 発行日 | 2023-08-30 (NLC) |
[研究会発表申込システムのトップページに戻る]