| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2025-03-13 12:10 慣性項を用いた3次正則化ニュートン法の高速化に関する研究 ○マハブービ シェヘラザード・二宮 洋（湘南工科大）  MSS2024-71 NLP2024-112 |
|
| 抄録 | （和） | 本研究では，3次正則化ニュートン法を基に，慣性項を導入した新たな最適化手法，慣性付3次正則化ニュートン法を提案する．データドリブンアプローチの普及により，大規模かつ複雑なデータの処理が必要となり，それらに関連する最適化問題は強い非線形性を示すようになっている．これまで，強非線形最適化問題の学習に対して，曲率情報を活用した２次最適化アルゴリズムが有効とされてきた．ニュートン法は，目的関数の２次近似を最適化する方法であるため，目的関数の挙動を十分に捉えきれず，更新が不安定になるという問題点がある．これらの問題を解決するため，目的関数の上界を定義し，これを最小化する手法である3次正則化ニュートン法が提案された．本研究では，従来２次最適化手法の高速化に活用されてきた慣性項を3次正則化ニュートン法に導入することで，最適解の高い精度を維持しながら収束の高速化を目指す．提案手法の有効性は計算機実験により実証する． |
| （英） | This research proposes a new optimization method called the Inertial Cubic regularized Newton method, which introduces inertial terms to the Cubic regularized Newton method. With the widespread adoption of data-driven approaches, the need to process large and complex datasets has increased, and the associated optimization problems have become highly nonlinear. Traditionally, second-order optimization algorithms utilizing gradient curvature information have been considered effective for training in strongly nonlinear optimization problems. However, Newton method, which minimizes a second-order approximation of the objective function, has limitations in fully capturing the behavior of the objective function. In response to these limitations, the Cubic regularized Newton method was proposed, which approximates the upper bound of the objective function with a third-order function and minimizes it. This research aims to accelerate convergence while maintaining high accuracy of the optimal solution by incorporating inertial term, which have been traditionally used to accelerate second-order optimization methods, into the Cubic regularized Newton method. The effectiveness of the proposed method will be demonstrated through computational experiments. | |
| キーワード | （和） | 最適化手法 / 3次正則化項 / ニュートン手法 / ネステロフの加速勾配法 / 慣性項 / / / |
| （英） | optimization method / Cubic regularization / Newton method / Nesterov’s accelerated gradient / inertial term / / / | |
| 文献情報 | 信学技報, vol. 124, no. 432, NLP2024-112, pp. 26-31, 2025年3月. | |
| 資料番号 | NLP2024-112 | |
| 発行日 | 2025-03-06 (MSS, NLP) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | MSS2024-71 NLP2024-112 |
|
| 研究会情報 | |
| 研究会 | NLP MSS |
| 開催期間 | 2025-03-13 - 2025-03-14 |
| 開催地（和） | 宮古島市中央公民館 |
| 開催地（英） | Miyakojima City Central Community Center |
| テーマ（和） | MSS，NLP，一般，およびWIP（MSSのみ） |
| テーマ（英） | MSS, NLP, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | NLP |
| 会議コード | 2025-03-NLP-MSS |
| 本文の言語 | 日本語 |
| タイトル（和） | 慣性項を用いた3次正則化ニュートン法の高速化に関する研究 |
| サブタイトル（和） | |
| タイトル（英） | Acceleration of Cubic Regularization Newton Method using Inertial Term |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 最適化手法 / optimization method |
| キーワード(2)（和/英） | 3次正則化項 / Cubic regularization |
| キーワード(3)（和/英） | ニュートン手法 / Newton method |
| キーワード(4)（和/英） | ネステロフの加速勾配法 / Nesterov’s accelerated gradient |
| キーワード(5)（和/英） | 慣性項 / inertial term |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | マハブービ シェヘラザード / Shahrzad Mahboubi / マハブービ シェヘラザード |
| 第1著者 所属（和/英） | 湘南工科大学 (略称： 湘南工科大) Shonan Institute of Technology (略称： Shonan Inst. Tech.) |
| 第2著者 氏名（和/英/ヨミ） | 二宮 洋 / Hiroshi Ninomiya / ニノミヤ ヒロシ |
| 第2著者 所属（和/英） | 湘南工科大学 (略称： 湘南工科大) Shonan Institute of Technology (略称： Shonan Inst. Tech.) |
| 講演者 | 第1著者 |
| 発表日時 | 2025-03-13 12:10:00 |
| 発表時間 | 20分 |
| 申込先研究会 | NLP |
| 資料番号 | MSS2024-71, NLP2024-112 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.431(MSS), no.432(NLP) |
| ページ範囲 | pp.26-31 |
| ページ数 | 6 |
| 発行日 | 2025-03-06 (MSS, NLP) |
[研究会発表申込システムのトップページに戻る]