講演抄録/キーワード |
講演名 |
2022-11-05 14:55
事前学習済モデルを活用し問題文を考慮できる解釈性の高い適応的回答予測 ○江原 遥(学芸大) ET2022-37 |
抄録 |
(和) |
近年,高度な意味的テキスト処理のための最近の標準的な手法として,BERTなどの深層転移学習に基づく深層言語モデルが用いられるようになってきた.これらの手法は生のテキストデータから学習された長時間かけて学習させた事前学習済モデルをダウンロードして利用する事で,大量のテキストから学習した意味的処理を行う事が可能となる.このため,問題文から問題文の難しさを考慮して学習者が正答できるかを判定する適応的回答予測問題にも深層言語モデルを利用したいが,問題が2点ある.まず,これらのモデルはテキストのみを入力とし,学習者を考慮することができない.次に,これらのモデルは従来の手法と異なり,教育上重要な学習者の能力値などの学習者特性をモデルから抽出する事が出来ない.
本研究では,この2点の問題点を解決するため,学習者を表すトークンを問題文に付与する手法を提案する.これにより,公開されている事前学習済モデルをそのまま用いることで,わずかな計算コストで高い予測性能を達成する事が可能となる.また,トークン中の学習者を表すベクトルから,学習者の能力値等,項目反応理論のように教育上有用で高い解釈性を持つ値を抽出する手法も提案する.実験の結果,提案手法はこれらの2点において,既存手法を統計的有意に上回る性能を達成し,項目反応理論により計算された能力値と統計的有意に相関する能力値を学習者をあらわすベクトルから抽出できた.本発表では,さらに,設問の「難易度」や「良問である度合い」とみなせる設問の性質を表す値についても,微調整済モデルから抽出する手法を提案する. |
(英) |
This paper proposes a method for response prediction adaptive to learners which considers the texts of questions. |
キーワード |
(和) |
BERT / 深層転移学習 / 回答予測 / / / / / |
(英) |
BERT / Transfer Learning / Response Prediction / / / / / |
文献情報 |
信学技報, vol. 122, no. 241, ET2022-37, pp. 39-46, 2022年11月. |
資料番号 |
ET2022-37 |
発行日 |
2022-10-29 (ET) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
ET2022-37 |