| 講演抄録/キーワード |
| 講演名 |
2024-09-02 15:10
ChatGPTによる公認会計士短答式試験(企業法)のパフォーマンス分析 ○増田 樹(慶大/理研AIPセンター)・中川 慧(野村アセットマネジメント/阪公立大)・高野海斗(野村アセットマネジメント)・星野崇宏(慶大/理研AIPセンター) NLC2024-6 |
| 抄録 |
(和) |
大規模言語モデル (LLM)の回答能力の正確な測定は重要な問題であり、会計・監査・法学領域においても同様である。特にこれらの専門分野は国家資格として高度な知識と論理的思考が要求されるため、LLMが正確な情報を提供できるかどうかを評価することは、これらの分野の実務における信頼性を確保するために重要である。
そこで本研究では、まず日本の公認会計士試験のうち、短答式試験における企業法の問題と回答のデータセットの整備を行い、公開した。そして、ChatGPTのAPI を活用し、回答能力の評価を行うことで、難解な専門資格試験における言語モデルの応答能力や限界を理解する。 |
| (英) |
The accurate perfomance measurement of the response capabilities of large language models~(LLMs) is a crucial issue, especially in the fields of accounting, auditing, and law.
These specialized areas demand high levels of knowledge and logical reasoning as national qualifications.
Therefore, evaluating whether LLMs can provide accurate information is essential to ensure their reliability in practical applications within these fields.
In this study, we first prepared and published a dataset of Q&As from the business law section of the multiple-choice format of the Japanese CPA examination. We then used the ChatGPT API to evaluate its response capabilities. This allowed us to understand the response abilities and limitations of language models in challenging professional certification exams. |
| キーワード |
(和) |
公認会計士試験 / 大規模言語モデル / 企業法 / ChatGPT / / / / |
| (英) |
CPA Examination / Large Language Models / Corporate Law / ChatGPT / / / / |
| 文献情報 |
信学技報, vol. 124, no. 173, NLC2024-6, pp. 27-32, 2024年9月. |
| 資料番号 |
NLC2024-6 |
| 発行日 |
2024-08-26 (NLC) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NLC2024-6 |