| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2026-01-29 10:30 物体検出基盤モデルから、軽量な物体検出モデルへの知識蒸留 ○別所拓実・小林大祐・山地雄土・齊藤廣大（東芝）  PRMU2025-27 |
|
| 抄録 | （和） | 本研究では、計算量は大きいが汎用的な知識を有する物体検出基盤モデルを教師として、ターゲットドメインにおける軽量な物体検出器を構成するホワイトボックス知識蒸留法を提案する。従来の知識蒸留法は教師と生徒のモデル構造差が大きいため性能継承が困難であった。提案手法Step-wise Unit Replacement Training (SURT) は、教師出力部と生徒入力部を結合した中間モデルを学習する段階を導入し、生徒モデルの表現能力に応じて教師の知識をフィードバックすることでこの課題を解決する。また、ターゲットドメインでは画像データの収集は容易である一方でアノテーションが高コストであるという問題に対し、物体検出基盤モデルによる疑似ラベル生成とデータクリーニングを活用して効率的な学習を実現した。ODinW13データセットで実験を行い提案法の有効性を確認した。 |
| （英） | In this study, we propose a white-box knowledge distillation method that uses a computationally intensive but highly general open vocabulary object detector (OVOD) as the teacher to build a lightweight object detector for the target domain. Conventional knowledge distillation approaches struggle to transfer knowledge due to the large structural differences between teacher and student. Our proposed method, Step-wise Unit Replacement Training (SURT), introduces an intermediate training stage where the teacher’s output components are connected to the student’s input components. This enables feedback of the teacher’s knowledge within the student model’s capacity. Furthermore, to tackle the issue that image data collection in the target domain is relatively easy while annotation is costly, we leverage pseudo-label generation and data cleaning using the foundation model to achieve efficient learning. Experiments on the ODinW13 dataset confirm the effectiveness of the proposed approach. | |
| キーワード | （和） | 物体検出 / 知識蒸留 / 物体検出基盤モデル / 半教師あり学習 / 少量教示 / 未教示画像データ / / |
| （英） | object detection / knowledge distillation / open vocabulary object detector / semi-supervised / Few-shot / unlabeled data / / | |
| 文献情報 | 信学技報, vol. 125, no. 348, PRMU2025-27, pp. 13-18, 2026年1月. | |
| 資料番号 | PRMU2025-27 | |
| 発行日 | 2026-01-22 (PRMU) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | PRMU2025-27 |
|
| 研究会情報 | |
| 研究会 | PRMU IPSJ-CVIM VRSJ-SIG-MR MVE |
| 開催期間 | 2026-01-29 - 2026-01-30 |
| 開催地（和） | 大阪大学 豊中キャンパス |
| 開催地（英） | |
| テーマ（和） | CV/PR/XR技術のためのLLM応用 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | PRMU |
| 会議コード | 2026-01-PRMU-CVIM-SIG-MR-MVE |
| 本文の言語 | 日本語 |
| タイトル（和） | 物体検出基盤モデルから、軽量な物体検出モデルへの知識蒸留 |
| サブタイトル（和） | |
| タイトル（英） | Knowledge Distillation from Open Vocabulary Object Detectors to Lightweight Object Detectors |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 物体検出 / object detection |
| キーワード(2)（和/英） | 知識蒸留 / knowledge distillation |
| キーワード(3)（和/英） | 物体検出基盤モデル / open vocabulary object detector |
| キーワード(4)（和/英） | 半教師あり学習 / semi-supervised |
| キーワード(5)（和/英） | 少量教示 / Few-shot |
| キーワード(6)（和/英） | 未教示画像データ / unlabeled data |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 別所 拓実 / Takumi Bessho / ベッショ タクミ |
| 第1著者 所属（和/英） | 株式会社 東芝 (略称： 東芝) Toshiba Corp. (略称： Toshiba) |
| 第2著者 氏名（和/英/ヨミ） | 小林 大祐 / Daisuke Kobayashi / コバヤシ ダイスケ |
| 第2著者 所属（和/英） | 株式会社 東芝 (略称： 東芝) Toshiba Corp. (略称： Toshiba) |
| 第3著者 氏名（和/英/ヨミ） | 山地 雄土 / Yuto Yamaji / ヤマジ ユウト |
| 第3著者 所属（和/英） | 株式会社 東芝 (略称： 東芝) Toshiba Corp. (略称： Toshiba) |
| 第4著者 氏名（和/英/ヨミ） | 齊藤 廣大 / Hiroo Saito / サイトウ ヒロオ |
| 第4著者 所属（和/英） | 株式会社 東芝 (略称： 東芝) Toshiba Corp. (略称： Toshiba) |
| 講演者 | 第1著者 |
| 発表日時 | 2026-01-29 10:30:00 |
| 発表時間 | 15分 |
| 申込先研究会 | PRMU |
| 資料番号 | PRMU2025-27 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.348 |
| ページ範囲 | pp.13-18 |
| ページ数 | 6 |
| 発行日 | 2026-01-22 (PRMU) |
[研究会発表申込システムのトップページに戻る]