| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2025-03-19 15:25 数式駆動型データを用いた知識蒸留の初期評価 藤林文人・○森 稔（神奈川工科大）  PRMU2024-62 |
|
| 抄録 | （和） | 大規模モデルの性能を小規模モデルに転移する手法に知識蒸留がある．知識蒸留は一般的に大規模モデルの学習時に用いた認識対象データで実施するが，必ずしも同一データが知識蒸留時に存在するわけではない．本稿では，認識対象データが存在しない条件下での知識蒸留実現性の検証として，数式に基づいて生成する数式駆動型データを用いた知識蒸留の初期評価を実施した．また数式駆動型データにおける，画像をクラス間で合成するデータ拡張手法の有効性についても検証した．CIFAR10を大規模モデルの学習及び認識対象データとした評価実験において，認識対象とは特性が異なる数式駆動型成データを用いた知識蒸留でも，認識対象データによる知識蒸留とほぼ同等の汎化性能を得ることができ，アプローチの妥当性を確認した． |
| （英） | (Not available yet) | |
| キーワード | （和） | Deep Neural Network / 知識蒸留 / 数式駆動型データ / データ拡張 / / / / |
| （英） | / / / / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 445, PRMU2024-62, pp. 94-99, 2025年3月. | |
| 資料番号 | PRMU2024-62 | |
| 発行日 | 2025-03-11 (PRMU) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | PRMU2024-62 |
|
| 研究会情報 | |
| 研究会 | PRMU IPSJ-CVIM IBISML |
| 開催期間 | 2025-03-18 - 2025-03-19 |
| 開催地（和） | 滋賀大学 彦根キャンパス |
| 開催地（英） | |
| テーマ（和） | 基盤モデルとその応用 (PRMU/IPSJ-CVIM)、機械学習一般 (IBISML) |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | PRMU |
| 会議コード | 2025-03-PRMU-CVIM-IBISML |
| 本文の言語 | 日本語（英語タイトルなし） |
| タイトル（和） | 数式駆動型データを用いた知識蒸留の初期評価 |
| サブタイトル（和） | |
| タイトル（英） | |
| サブタイトル（英） | |
| キーワード(1)（和/英） | Deep Neural Network / |
| キーワード(2)（和/英） | 知識蒸留 / |
| キーワード(3)（和/英） | 数式駆動型データ / |
| キーワード(4)（和/英） | データ拡張 / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 藤林 文人 / Ayato Fujibayashi / フジバヤシ アヤト |
| 第1著者 所属（和/英） | 神奈川工科大学 (略称： 神奈川工科大) Kanagawa Institute of Techonlogy (略称： KAIT) |
| 第2著者 氏名（和/英/ヨミ） | 森 稔 / Minoru Mori / モリ ミノル |
| 第2著者 所属（和/英） | 神奈川工科大学 (略称： 神奈川工科大) Kanagawa Institute of Techonlogy (略称： KAIT) |
| 講演者 | 第2著者 |
| 発表日時 | 2025-03-19 15:25:00 |
| 発表時間 | 15分 |
| 申込先研究会 | PRMU |
| 資料番号 | PRMU2024-62 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.445 |
| ページ範囲 | pp.94-99 |
| ページ数 | 6 |
| 発行日 | 2025-03-11 (PRMU) |
[研究会発表申込システムのトップページに戻る]