| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2023-03-15 10:30 スパース化DenseNetにおけるNode Fusionの提案 ○種田祥吾・野口尚馬・山内ゆかり（日大）  NC2022-110 |
|
| 抄録 | （和） | Gao HuangらはDenseNetという深層学習モデルを提案した．この深層学習モデルは前層と後続層の連結を行うことで情報を保存，維持することで情報の損失を防ぐことに成功した。本研究ではDenseNetに対し，畳み込み部分にL1正則化を導入することで学習パラメータをスパース化し，汎化性能の向上を目指す．また，全結合層に対してもL1正則化を導入し，学習パラメータをスパース化する．この時，隠れ層のノードの前後につながる重みの二乗和が0に近づいたときノードを削除し，削除対象の重みを削除したノードに似ているノードに付加するNode Fusionを提案し，計算量の削減と精度の向上を目指す． |
| （英） | Gao Huang et al. proposed a deep learning model called DenseNet. This deep learning model successfully prevents information loss by preserving and maintaining information by concatenating the front and back layers. In this study, we introduce L1 regularization in the convolutional part of DenseNet to sparsify the learning parameters and improve the generalization performance. We also introduce L1 regularization for fully connected layers to sparsify the learning parameters. In addition, we propose Node Fusion to sparsify units in fully connected layers. First, the node in the hidden layer with the smallest sum of squares of weights connected to the previous and next layers is targeted for deletion. Delete the node after fusing the weight to a node with high similarity to the node to be deleted. We aim to reduce computation and improve accuracy by Node Fusion. | |
| キーワード | （和） | DenseNet / スパース / L1正則化 / Node Fusion / / / / |
| （英） | DenseNet / Sparse / L1-Regularization / Node Fusion / / / / | |
| 文献情報 | 信学技報, vol. 122, no. 425, NC2022-110, pp. 105-108, 2023年3月. | |
| 資料番号 | NC2022-110 | |
| 発行日 | 2023-03-06 (NC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NC2022-110 |
|
| 研究会情報 | |
| 研究会 | NC MBE |
| 開催期間 | 2023-03-13 - 2023-03-15 |
| 開催地（和） | 電気通信大学 |
| 開催地（英） | The Univ. of Electro-Communications |
| テーマ（和） | 脳アーキテクチャー, 一般（NC, ME） |
| テーマ（英） | Brain architecture, General |
| 講演論文情報の詳細 | |
| 申込み研究会 | NC |
| 会議コード | 2023-03-NC-MBE |
| 本文の言語 | 日本語 |
| タイトル（和） | スパース化DenseNetにおけるNode Fusionの提案 |
| サブタイトル（和） | |
| タイトル（英） | Proposal of Node Fusion in Sparse DenseNet |
| サブタイトル（英） | |
| キーワード(1)（和/英） | DenseNet / DenseNet |
| キーワード(2)（和/英） | スパース / Sparse |
| キーワード(3)（和/英） | L1正則化 / L1-Regularization |
| キーワード(4)（和/英） | Node Fusion / Node Fusion |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 種田 祥吾 / Shogo Taneda / タネダ ショウゴ |
| 第1著者 所属（和/英） | 日本大学 (略称： 日大) Nihon University (略称： Nihon Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 野口 尚馬 / Shoma Noguchi / ノグチ ショウマ |
| 第2著者 所属（和/英） | 日本大学 (略称： 日大) Nihon University (略称： Nihon Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 山内 ゆかり / Yukari Yamauchi / ヤマウチ ユカリ |
| 第3著者 所属（和/英） | 日本大学 (略称： 日大) Nihon University (略称： Nihon Univ.) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2023-03-15 10:30:00 |
| 発表時間 | 25分 |
| 申込先研究会 | NC |
| 資料番号 | NC2022-110 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | no.425 |
| ページ範囲 | pp.105-108 |
| ページ数 | 4 |
| 発行日 | 2023-03-06 (NC) |
[研究会発表申込システムのトップページに戻る]