| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2026-03-17 15:25 ニューラルネットワークにおけるミニバッチ準ニュートン法の適用 ○田中克典・佐々木智志・中野秀洋（東京都市大）  CCS2025-68 |
|
| 抄録 | （和） | 本研究は，ミニバッチ準ニュートン法を用い，ニューラルネットワーク等の非線形性の強いタスクの最適化を目的とする．深層学習ではAdam等の1次手法が主流だが，高速な収束が期待される2次手法の活用も重要視されている．しかし，確率的な設定下では勾配のノイズがヘッセ行列の近似精度を下げ，学習が不安定化するという課題がある．本稿ではこのノイズ低減を目的とした手法を提案し，その有効性を検証する． |
| （英） | This study aims to optimize highly nonlinear tasks, such as neural network training, using a mini-batch quasi-Newton method. While first-order methods like Adam are currently dominant in deep learning, the use of second-order methods is increasingly emphasized due to their potential for faster convergence. However, in stochastic settings, gradient noise can degrade the approximation accuracy of the Hessian matrix, leading to unstable training. In this paper, we propose a method to reduce this noise and evaluate its effectiveness. | |
| キーワード | （和） | ニューラルネットワーク / 準ニュートン法 / 最適化手法 / / / / / |
| （英） | Neural networks / Quasi-Newton method / Optimization method / / / / / | |
| 文献情報 | 信学技報, vol. 125, no. 416, CCS2025-68, pp. 82-86, 2026年3月. | |
| 資料番号 | CCS2025-68 | |
| 発行日 | 2026-03-10 (CCS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | CCS2025-68 |
|
| 研究会情報 | |
| 研究会 | CCS |
| 開催期間 | 2026-03-17 - 2026-03-18 |
| 開催地（和） | 北海道 ルスツリゾートホテル&コンベンション |
| 開催地（英） | RUSUTSU RESORT |
| テーマ（和） | CCS, 一般 |
| テーマ（英） | CCS, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | CCS |
| 会議コード | 2026-03-CCS |
| 本文の言語 | 日本語 |
| タイトル（和） | ニューラルネットワークにおけるミニバッチ準ニュートン法の適用 |
| サブタイトル（和） | |
| タイトル（英） | Application of Mini-batch Quasi-Newton Methods to Neural Networks |
| サブタイトル（英） | |
| キーワード(1)（和/英） | ニューラルネットワーク / Neural networks |
| キーワード(2)（和/英） | 準ニュートン法 / Quasi-Newton method |
| キーワード(3)（和/英） | 最適化手法 / Optimization method |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 田中 克典 / Katsunori Tanaka / タナカ カツノリ |
| 第1著者 所属（和/英） | 東京都市大学 (略称： 東京都市大) Tokyo City University (略称： TCU) |
| 第2著者 氏名（和/英/ヨミ） | 佐々木 智志 / Tomoyuki Sasaki / ササキ トモユキ |
| 第2著者 所属（和/英） | 東京都市大学 (略称： 東京都市大) Tokyo City University (略称： TCU) |
| 第3著者 氏名（和/英/ヨミ） | 中野 秀洋 / Hidehiro Nakano / ナカノ ヒデヒロ |
| 第3著者 所属（和/英） | 東京都市大学 (略称： 東京都市大) Tokyo City University (略称： TCU) |
| 講演者 | 第1著者 |
| 発表日時 | 2026-03-17 15:25:00 |
| 発表時間 | 20分 |
| 申込先研究会 | CCS |
| 資料番号 | CCS2025-68 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.416 |
| ページ範囲 | pp.82-86 |
| ページ数 | 5 |
| 発行日 | 2026-03-10 (CCS) |
[研究会発表申込システムのトップページに戻る]