| 講演抄録/キーワード |
| 講演名 |
2021-06-24 13:25
乱数重みニューラルネットワークにおけるアンサンブル学習の研究 ○大越康之・廣瀬一俊・安藤洸太・川村一志・ティエム ヴァン チュ・本村真人・劉 載勲(東工大) SIS2021-7 |
| 抄録 |
(和) |
近年,重みの値を学習する代わりに,乱数重みの結合を学習する深層ニューラルネットワークが提案され,膨大な重み係数の格納に必要なメモリリソースを大幅に削減できる可能性が示された.本研究では,乱数重みを用いたニューラルネットワークに対して様々なアンサンブル学習を適用し計算量と推論精度の解析を行い,更なるトレードオフの改善を目指した.ResNet18とCIFAR-100を用いた評価実験では,アンサンブル学習を適用することで既存の乱数重みネットワークに対し最大3%の精度向上を実現した. |
| (英) |
Recent research on deep learning shows the possibility of building neural networks by learning connection existences instead of weights, in which weights are random numbers and do not change. Connection-based learning can significantly reduce memory resources to store the huge number of weights. In this research, we adopt various ensemble learning methods to the randomly weighted neural networks for improving the trade-off between computational cost and accuracy. On CIFAR-100, our ensembled ResNet18 model achieved 3.0% higher accuracy than the original randomly weighted ResNet18 model. |
| キーワード |
(和) |
機械学習 / 深層学習 / アンサンブル学習 / ニューラルネットワーク / 画像分類 / / / |
| (英) |
machine learning / deep learning / ensemble learning / neural network / image classification / / / |
| 文献情報 |
信学技報, vol. 121, no. 73, SIS2021-7, pp. 37-42, 2021年6月. |
| 資料番号 |
SIS2021-7 |
| 発行日 |
2021-06-17 (SIS) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
SIS2021-7 |