| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2019-03-05 09:55 活性値を考慮したニューラルネットワークのニューロン削除手法 ○山田雅大・萩原将文（慶大）  NC2018-64 |
|
| 抄録 | （和） | 本論文では，活性値を考慮したニューラルネットワークのニューロン削除手法を提案する．本手法で は，ニューロンを削除(Pruning)することによって，パラメータ数を削減する．Pruning の指標として，ニューロン毎 の，①学習データ全体に対する平均活性値，②学習データ中の各クラスに対する平均活性値のエントロピー，の2 種類を用いた．これらの指標を基準に，(A)指標値の小さい順にPruning，(B)指標値の大きい順にPruning，(C)指標 値の中央値から区間両端に向かってPruning，(D)指標値の区間両端から中央値に向かってPruning，の4 種類のルー ルを定め，ニューロンのPruning を行った．評価実験を行った結果，既存の手法に比べ高精度を維持したままパラ メータ数の削減が可能であることを示した． |
| （英） | In this paper, we propose a neuron-pruning algorithm using activation value. As the index for pruning neurons, two types of the index are used: (1) the average activation value for the whole learning data, and (2) the entropy of average activation values for each class in the learning data. Based on the index, neurons are pruned under the following four kinds of rules: (A) pruning neurons in descending order of index values, (B) pruning neurons in ascending order of index values, (C) pruning neurons from the median value of index values toward both ends of the section, and (D) pruning neurons from both ends of the section of index values towards the median value. In the evaluation experiments, it is shown that the parameters can be reduced while maintaining high accuracy by pruning neurons based on each index and rule of the proposed method more effectively. |
|
| キーワード | （和） | プルーニング / パラメータ削減 / 圧縮 / ニューラルネットワーク / / / / |
| （英） | pruning / parameter reduction / compression / neural network / / / / | |
| 文献情報 | 信学技報, vol. 118, no. 470, NC2018-64, pp. 111-116, 2019年3月. | |
| 資料番号 | NC2018-64 | |
| 発行日 | 2019-02-25 (NC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NC2018-64 |
|
| 研究会情報 | |
| 研究会 | NC MBE |
| 開催期間 | 2019-03-04 - 2019-03-06 |
| 開催地（和） | 電気通信大学 |
| 開催地（英） | University of Electro Communications |
| テーマ（和） | NC, ME, 一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | NC |
| 会議コード | 2019-03-NC-MBE |
| 本文の言語 | 日本語 |
| タイトル（和） | 活性値を考慮したニューラルネットワークのニューロン削除手法 |
| サブタイトル（和） | |
| タイトル（英） | Neuron-Pruning Algorithm For Neural Network Considering Activation Values |
| サブタイトル（英） | |
| キーワード(1)（和/英） | プルーニング / pruning |
| キーワード(2)（和/英） | パラメータ削減 / parameter reduction |
| キーワード(3)（和/英） | 圧縮 / compression |
| キーワード(4)（和/英） | ニューラルネットワーク / neural network |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 山田 雅大 / Masahiro Yamada / ヤマダ マサヒロ |
| 第1著者 所属（和/英） | 慶應義塾大学 (略称： 慶大) Keio University (略称： Keio Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 萩原 将文 / Masafumi Hagiwara / ハギワラ マサフミ |
| 第2著者 所属（和/英） | 慶應義塾大学 (略称： 慶大) Keio University (略称： Keio Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2019-03-05 09:55:00 |
| 発表時間 | 25分 |
| 申込先研究会 | NC |
| 資料番号 | NC2018-64 |
| 巻番号（vol） | vol.118 |
| 号番号（no） | no.470 |
| ページ範囲 | pp.111-116 |
| ページ数 | 6 |
| 発行日 | 2019-02-25 (NC) |
[研究会発表申込システムのトップページに戻る]