| 講演抄録/キーワード |
| 講演名 |
2024-06-06 15:20
中間層の逐次的追加による効率的な深層学習手法 ○土岐健太郎・中野秀洋(東京都市大) NLP2024-24 CCS2024-11 |
| 抄録 |
(和) |
近年のディープラーニングでは,残差接続を用いて深層のニューラルネットワークを学習する.しかし, 層が増えると学習・推論にかかる時間が増加する.適切な深さのモデルを学習する方法として,モデル圧縮やモデル 探索がある.しかし,これらの手法は事前学習や探索に多くの計算リソースを要する.本研究では,少ない層数のモ デルから学習を始めて,学習中に徐々に中間層を追加することで,適切な深さのモデルを効率的に学習する手法を提 案する. |
| (英) |
In recent deep learning, deep neural networks are trained using residual connections. However, training deep models requires a lot of computational resources. Model compression and model exploration are methods for training models of appropriate depth. However, these methods require a lot of computational resources for pre-training and exploration. In this study, we propose a method for efficiently learning models of appropriate depth by starting with small models and gradually inserting hidden layers during training. |
| キーワード |
(和) |
深層学習 / ResNet / 残差接続 / / / / / |
| (英) |
Deep Learning / ResNet / Residual Connection / / / / / |
| 文献情報 |
信学技報, vol. 124, no. 63, CCS2024-11, pp. 44-48, 2024年6月. |
| 資料番号 |
CCS2024-11 |
| 発行日 |
2024-05-30 (NLP, CCS) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NLP2024-24 CCS2024-11 |
| 研究会情報 |
| 研究会 |
NLP CCS |
| 開催期間 |
2024-06-06 - 2024-06-07 |
| 開催地(和) |
西日本総合展示場AIM |
| 開催地(英) |
West Japan General Exhibition Center AIM |
| テーマ(和) |
NLP,CCS,一般 |
| テーマ(英) |
Nonlinear Problems, Complex Communication Sciences, etc. |
| 講演論文情報の詳細 |
| 申込み研究会 |
CCS |
| 会議コード |
2024-06-NLP-CCS |
| 本文の言語 |
日本語 |
| タイトル(和) |
中間層の逐次的追加による効率的な深層学習手法 |
| サブタイトル(和) |
|
| タイトル(英) |
An Efficient Deep Learning Method by Sequential Insertion of Hidden Layers |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
深層学習 / Deep Learning |
| キーワード(2)(和/英) |
ResNet / ResNet |
| キーワード(3)(和/英) |
残差接続 / Residual Connection |
| キーワード(4)(和/英) |
/ |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
土岐 健太郎 / Kentaro Toki / トキ ケンタロウ |
| 第1著者 所属(和/英) |
東京都市大学 (略称: 東京都市大)
Tokyo City University (略称: Tokyo City Univ.) |
| 第2著者 氏名(和/英/ヨミ) |
中野 秀洋 / Hidehiro Nakano / ナカノ ヒデヒロ |
| 第2著者 所属(和/英) |
東京都市大学 (略称: 東京都市大)
Tokyo City University (略称: Tokyo City Univ.) |
| 第3著者 氏名(和/英/ヨミ) |
/ / |
| 第3著者 所属(和/英) |
(略称: )
(略称: ) |
| 第4著者 氏名(和/英/ヨミ) |
/ / |
| 第4著者 所属(和/英) |
(略称: )
(略称: ) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2024-06-06 15:20:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
CCS |
| 資料番号 |
NLP2024-24, CCS2024-11 |
| 巻番号(vol) |
vol.124 |
| 号番号(no) |
no.62(NLP), no.63(CCS) |
| ページ範囲 |
pp.44-48 |
| ページ数 |
5 |
| 発行日 |
2024-05-30 (NLP, CCS) |
|