| 講演抄録/キーワード |
| 講演名 |
2026-03-04 14:40
自己反省型LLMカスケードによるコストパフォーマンス向上手法の検証 ○肆矢将也・川原亮一(東洋大) NS2025-245 |
| 抄録 |
(和) |
LLM(Large Language Model)の利用が増加する中で,その利用コストの増加が問題となり得る.LLM利用におけるコスト削減手法として「LLMカスケード」があり,これは,比較的簡単な問題は小型で安価なLLMで,より難度の高い問題は大型のLLMで推論を行うことでシステム全体のコスト削減を図る手法である.本稿では,小型LLMとしてOpenAI社のGPT-5 nanoを,大型LLMとしてGPT-5を利用した,ブラックボックス環境下における汎用的なLLMカスケードシステムを構築し,それによるコストパフォーマンスへの影響を検証する. |
| (英) |
As the use of LLMs (Large Language Models) increases, the rising cost of using them can become a problem. One cost-reduction method for using LLMs is "LLM cascade," which aims to reduce the cost of the entire system by using small, inexpensive LLMs for relatively easy problems and large LLMs for more difficult problems. In this paper, we build a general-purpose LLM cascade system in a black-box environment using OpenAI's GPT-5 nano as the small LLM and GPT-5 as the large LLM, and verify the impact on cost performance. |
| キーワード |
(和) |
LLM (Large Language Model) / LLMカスケード / / / / / / |
| (英) |
LLM (Large Language Model) / LLM cascade / / / / / / |
| 文献情報 |
信学技報, vol. 125, no. 385, NS2025-245, pp. 143-148, 2026年3月. |
| 資料番号 |
NS2025-245 |
| 発行日 |
2026-02-25 (NS) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NS2025-245 |