| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2026-03-18 09:20 層単位の成長・剪定における学習率スケジューラの調整手法 ○土岐健太郎・佐々木智志・中野秀洋（東京都市大）  CCS2025-78 |
|
| 抄録 | （和） | 深層学習モデルの成長や剪定は，モデルサイズを柔軟に調整できる手法として注目されている．一方で，層単位の成長や剪定では再学習時に多数のパラメータ更新が必要となるため，大きな学習率を用いる必要がある．そのため，学習率スケジューラによって学習率を減衰させると再学習において精度が低下する場合がある．本研究では，層ごとに学習率および重み減衰を調整することで，学習率スケジューラに起因する精度低下の抑制を検討する． |
| （英） | Layer-wise growing and pruning of deep neural networks have attracted attention as methods for flexibly adjusting model size. However, when growing or pruning is performed at the layer level, retraining requires updating a large number of parameters, which necessitates the use of a relatively large learning rate. Consequently, when a learning rate scheduler reduces the learning rate during training, the model performance may degrade during the retraining phase. In this study, we investigate a method to mitigate performance degradation caused by the learning rate scheduler by dynamically adjusting the learning rate and weight decay for each layer. | |
| キーワード | （和） | 深層学習 / 成長 / 剪定 / ResNet / / / / |
| （英） | Deep Learning / Growing / Pruning / ResNet / / / / | |
| 文献情報 | 信学技報, vol. 125, no. 416, CCS2025-78, pp. 138-141, 2026年3月. | |
| 資料番号 | CCS2025-78 | |
| 発行日 | 2026-03-10 (CCS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | CCS2025-78 |
|
| 研究会情報 | |
| 研究会 | CCS |
| 開催期間 | 2026-03-17 - 2026-03-18 |
| 開催地（和） | 北海道 ルスツリゾートホテル&コンベンション |
| 開催地（英） | RUSUTSU RESORT |
| テーマ（和） | CCS, 一般 |
| テーマ（英） | CCS, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | CCS |
| 会議コード | 2026-03-CCS |
| 本文の言語 | 日本語 |
| タイトル（和） | 層単位の成長・剪定における学習率スケジューラの調整手法 |
| サブタイトル（和） | |
| タイトル（英） | An Adjustment Method of Learning Rate Schedulers in Layer-wise Growing and Pruning |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 深層学習 / Deep Learning |
| キーワード(2)（和/英） | 成長 / Growing |
| キーワード(3)（和/英） | 剪定 / Pruning |
| キーワード(4)（和/英） | ResNet / ResNet |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 土岐 健太郎 / Kentaro Toki / トキ ケンタロウ |
| 第1著者 所属（和/英） | 東京都市大学 (略称： 東京都市大) Tokyo City University (略称： TCU) |
| 第2著者 氏名（和/英/ヨミ） | 佐々木 智志 / Tomoyuki Sasaki / ササキ トモユキ |
| 第2著者 所属（和/英） | 東京都市大学 (略称： 東京都市大) Tokyo City University (略称： TCU) |
| 第3著者 氏名（和/英/ヨミ） | 中野 秀洋 / Hidehiro Nakano / ナカノ ヒデヒロ |
| 第3著者 所属（和/英） | 東京都市大学 (略称： 東京都市大) Tokyo City University (略称： TCU) |
| 講演者 | 第1著者 |
| 発表日時 | 2026-03-18 09:20:00 |
| 発表時間 | 20分 |
| 申込先研究会 | CCS |
| 資料番号 | CCS2025-78 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.416 |
| ページ範囲 | pp.138-141 |
| ページ数 | 4 |
| 発行日 | 2026-03-10 (CCS) |
[研究会発表申込システムのトップページに戻る]