| 講演抄録/キーワード |
| 講演名 |
2020-11-26 13:50
べき乗活性化関数を持つ擬残差ニューラルネットワークによる多項式近似について ○小澤和也・磯貝海斗・岡崎秀晃(湘南工科大) CAS2020-31 MSS2020-23 |
| 抄録 |
(和) |
ReLUs関数を持つディープニューラルネットワークの一連の成功以来,ReLUs関数やRectified power units (RePUs)を有するニューラルネットワークによる多くの近似が注目を集めてきた.さらに深層のResidual networkはIdentity mappingsをskip connectionsとその後の加え合わせを活性化関数として用いることで優れた学習精度と収束特性をもつ非常に深層なアーキテクチャの一つとして登場している.本論文ではpower units(PU)をもつNNとReLUsをもつNNの出力の差を別のNNの入力として与え,その出力にskip connectionを用いてPUの出力
を加えることで pseudo residual network (PResN)モデルを構築し,PResNによる多項式の近似について議論する. |
| (英) |
Since a series of successes of Deep neural networks (DNNs) with rectified linear units (ReLUs), many approximations by NNs with ReLUs, or rectified power units (RePUs) have been focused on. Further deep residual networks have emerged as a family of extremely deep architectures showing compelling accuracy and nice convergence behaviors, when using identity mappings as the skip connections and after-addition activation. In this paper, approximating polynomials by a pseudo residual network (PResN) such as a NN with power units (PUs) – a NN with ReLUs + another NN with ReLUs when using identity mappings as the skip connections of the former NN with PUs and after-addition activation, is discussed. |
| キーワード |
(和) |
ニューラルネットワーク / Residual network / pseudo residual network / 多項式関数包囲 / / / / |
| (英) |
Neural Network / Residual network / pseudo residual network, / Polynomial function enclosure / / / / |
| 文献情報 |
信学技報, vol. 120, no. 245, CAS2020-31, pp. 68-72, 2020年11月. |
| 資料番号 |
CAS2020-31 |
| 発行日 |
2020-11-18 (CAS, MSS) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
CAS2020-31 MSS2020-23 |
| 研究会情報 |
| 研究会 |
MSS CAS IPSJ-AL |
| 開催期間 |
2020-11-25 - 2020-11-26 |
| 開催地(和) |
オンライン開催 |
| 開催地(英) |
Online |
| テーマ(和) |
システムのモデリングと制御・検証・最適化の手法,機械学習的アプローチ及び一般 |
| テーマ(英) |
|
| 講演論文情報の詳細 |
| 申込み研究会 |
CAS |
| 会議コード |
2020-11-MSS-CAS-AL |
| 本文の言語 |
日本語 |
| タイトル(和) |
べき乗活性化関数を持つ擬残差ニューラルネットワークによる多項式近似について |
| サブタイトル(和) |
|
| タイトル(英) |
On an approximating polynomials by a Pseudo Residual Neural Network with a Power Activation Function |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
ニューラルネットワーク / Neural Network |
| キーワード(2)(和/英) |
Residual network / Residual network |
| キーワード(3)(和/英) |
pseudo residual network / pseudo residual network, |
| キーワード(4)(和/英) |
多項式関数包囲 / Polynomial function enclosure |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
小澤 和也 / Kazuya Ozawa / オザワ カズヤ |
| 第1著者 所属(和/英) |
湘南工科大学 (略称: 湘南工科大)
Shonan Institute of Technology (略称: Shonan Inst. Tech) |
| 第2著者 氏名(和/英/ヨミ) |
磯貝 海斗 / Kaito Isogai / イソガイ カイト |
| 第2著者 所属(和/英) |
湘南工科大学 (略称: 湘南工科大)
Shonan Institute of Technology (略称: Shonan Inst. Tech) |
| 第3著者 氏名(和/英/ヨミ) |
岡崎 秀晃 / Hideaki Okazaki / オカザキ ヒデアキ |
| 第3著者 所属(和/英) |
湘南工科大学 (略称: 湘南工科大)
Shonan Institute of Technology (略称: Shonan Inst. Tech) |
| 第4著者 氏名(和/英/ヨミ) |
/ / |
| 第4著者 所属(和/英) |
(略称: )
(略称: ) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2020-11-26 13:50:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
CAS |
| 資料番号 |
CAS2020-31, MSS2020-23 |
| 巻番号(vol) |
vol.120 |
| 号番号(no) |
no.245(CAS), no.246(MSS) |
| ページ範囲 |
pp.68-72 |
| ページ数 |
5 |
| 発行日 |
2020-11-18 (CAS, MSS) |
|