| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2023-03-03 17:00 ReplayとParameter isolationを組み合わせた継続学習法 ○足立亮太・和田俊和（和歌山大）  PRMU2022-121 IBISML2022-128 |
|
| 抄録 | （和） | Deep Neural Network(DNN)は画像識別などの様々なタスクで用いられているが，学習済みのDNNに新たなタスクを学習させた場合，過去に学習したタスクの推論精度が著しく低下する．この現象を「破局的忘却」といい,これに対する従来の解決法は，次の3つに大別される．1）過去のタスクの学習データについて記録しておき，新たなタスクを学習する際に，記録したデータも追加して再学習するReplay methods，2）損失関数に正則化項を加えることによって，過去の学習結果を損なわないようにするRegularization-based methods，3）ネットワークを動的に変更し，過去の学習結果を隔離する Parameter isolation methods である．本報告ではDNNのモデルを共有層とタスク専用層に分け，タスク専用層には3)のisolationを，共有層には1)のReplayを適用することにより，破局的忘却を防ぐ手法を提案する．CIFAR100の100クラス分類タスクを10クラスずつの10タスクに分割して，1タスクずつ学習させる際に，共有層を設けない場合，Replayを行わない場合と比較して，提案手法は破局的忘却に対して効果的であることが確認でき，Replayのためのサンプリング法についても様々な方法との比較結果も示す． |
| （英） | Deep Neural Networks (DNN) are used for various tasks such as image classification, but when a new task is trained on a previously trained DNN, the inference accuracy of the previously trained task is significantly degenerated. This phenomenon is called “catastrophic forgetting”. Conventional solutions to this problem fall into three broad categories.1) Replay methods, which record training data from previous tasks and add the recorded data when training a new task, and re-train the task.,2) Regularization-based methods, which ensure that previous learning results are not compromised by adding a regularization term to the loss function.,3) Parameter isolation methods that dynamically change the network and isolate previously learned parameters. In this report, we propose a method to prevent catastrophic forgetting by splitting the DNN model into a shared layer and a task-specific layer and applying 3) Isolation to the task-specific layer and 1) Replay to the shared layer. When 100-category classification task of Cifar100 is divided into 10 tasks with 10 classes each, and one task is trained at a time, the proposed method is confirmed to be effective against catastrophic forgetting when compared to the case with no shared layer and no replay, and comparative results with different sampling methods for replay are also presented. | |
| キーワード | （和） | 継続学習 / 破局的忘却 / 画像識別 / / / / / |
| （英） | Continual Learning / Catastrophic Forgetting / Image Classification / / / / / | |
| 文献情報 | 信学技報, vol. 122, no. 404, PRMU2022-121, pp. 335-340, 2023年3月. | |
| 資料番号 | PRMU2022-121 | |
| 発行日 | 2023-02-23 (PRMU, IBISML) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | PRMU2022-121 IBISML2022-128 |
|
| 研究会情報 | |
| 研究会 | PRMU IBISML IPSJ-CVIM |
| 開催期間 | 2023-03-02 - 2023-03-03 |
| 開催地（和） | はこだて未来大学 |
| 開催地（英） | Future University Hakodate |
| テーマ（和） | 異分野連携(PRMU)、AutoML (CVIM)、機械学習の理論と応用の広がり(IBISML) |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | PRMU |
| 会議コード | 2023-03-PRMU-IBISML-CVIM |
| 本文の言語 | 日本語 |
| タイトル（和） | ReplayとParameter isolationを組み合わせた継続学習法 |
| サブタイトル（和） | |
| タイトル（英） | Continual learning combining Replay and Parameter Isolation Methods |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 継続学習 / Continual Learning |
| キーワード(2)（和/英） | 破局的忘却 / Catastrophic Forgetting |
| キーワード(3)（和/英） | 画像識別 / Image Classification |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 足立 亮太 / Ryota Adachi / アダチ リョウタ |
| 第1著者 所属（和/英） | 和歌山大学 (略称： 和歌山大) Wakayama University (略称： Wakayama Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 和田 俊和 / Toshikazu Wada / ワダ トシカズ |
| 第2著者 所属（和/英） | 和歌山大学 (略称： 和歌山大) Wakayama University (略称： Wakayama Univ.) |
| 第3著者 氏名（和/英/ヨミ） | / / |
| 第3著者 所属（和/英） | (略称： ) (略称： ) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2023-03-03 17:00:00 |
| 発表時間 | 10分 |
| 申込先研究会 | PRMU |
| 資料番号 | PRMU2022-121, IBISML2022-128 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | no.404(PRMU), no.405(IBISML) |
| ページ範囲 | pp.335-340 |
| ページ数 | 6 |
| 発行日 | 2023-02-23 (PRMU, IBISML) |
[研究会発表申込システムのトップページに戻る]