| 講演抄録/キーワード |
| 講演名 |
2026-03-24 14:40
コンテキスト特徴量を時系列予測に統合するための知識蒸留フレームワーク ○竹川修平・内田真人(早大) IBISML2025-42 |
| 抄録 |
(和) |
Transformerベースのモデルは長距離の時間依存関係を捉える能力により、時系列予測において大幅な精度向上を実現してきた。一方で、既存手法の多くは、観測された時系列の情報を中心にモデルを構成する手法に基づいており、日時情報や静的属性といったコンテキスト特徴量の扱いは十分に整理されていない。本論文では、コンテキスト特徴量を予測のベースラインとして明示的に統合するための、新しい知識蒸留フレームワークを提案する。提案手法では、時系列を処理する教師ネットワークから、コンテキスト特徴量のみを入力とする生徒ネットワークへ、時系列情報を通じて獲得された知識を転移させる自己蒸留を導入する。これにより、生徒ネットワークは観測値に依存せず、日時情報や属性情報のみから予測値のベースラインを構成する表現を学習する。また、学習された埋め込み表現を時系列データの埋め込み表現に加算することで、コンテキスト特徴量に基づく安定的な予測を基準とし、時間的な変動を残差として補正する Transformer ベースの予測アーキテクチャを実現する。本アプローチの有効性を検証するため、ベンチマークデータセットを用いた実験を行い、提案手法が既存のモデルの精度を向上させることを確認した。さらに、学習されたコンテキスト特徴量埋め込みの品質を評価するため、過去の観測値を排除し、コンテキスト特徴量のみを用いた予測性能の評価を行った。
その結果、提案手法で得られた埋め込みは、単独でも予測能力を有しており、本手法がコンテキスト特徴量から予測に寄与する情報を効果的に抽出・保持していることを明らかにした。 |
| (英) |
|
| キーワード |
(和) |
時系列予測 / 知識蒸留 / / / / / / |
| (英) |
/ / / / / / / |
| 文献情報 |
信学技報, vol. 125, no. 425, IBISML2025-42, pp. 9-16, 2026年3月. |
| 資料番号 |
IBISML2025-42 |
| 発行日 |
2026-03-17 (IBISML) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
IBISML2025-42 |