| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2020-12-17 16:20 ［ショートペーパー］変分自己符号化器との統合によるFew-Shot継続学習 ○髙山啓太・宇都有昭・篠田浩一（東工大）  PRMU2020-48 |
|
| 抄録 | （和） | 深層学習において識別クラス数を増やすときに，増やす前のモデルを初期モデルとして，新しいクラスのデータのみを用いてオンライン学習する継続学習手法がいくつか提案されている．その中でもGenerative Replayは変分自己符号化器によって生成されたサンプルを学習に用いることで高い性能を得ている．しかし，新しいクラスのデータが少量の場合，かえって性能が劣化するという問題があった．それに対し，本研究では，変分自己符号化器における潜在変数の値を識別のための特徴量として，変分自己符号化器と識別モデルとを同時に学習する方法，Few-Shot Generative Replayを提案する．そこでは，潜在変数分布の分散値をクラス間で共有することで，データが少量の場合でも頑健な学習を可能にしている．SplitMNISTの2つめのタスク以降，各クラスのサンプル数を10件に制限した評価実験で，Generative Replayの正解率56.9%を7.9ポイント上回る64.8%を得た． |
| （英） | We propose a few-shot incremental learning method using a variational autoencoder for deep learning. In incremental learning, new classes are given in sequence, and the data of the classes previously given are not available for training a classifier. Recently, a method called Generative Replay has achieved high performance by using samples generated by a variational autoencoder (VAE) for training, but its performance degrades when the amount of data of a new class is small. Our proposed method, Few-Shot Generative Replay, solves this problem by simultaneously learning a VAE and a classifier, where the latent variables of VAE are used as the input features for the classifier. By sharing the variance of the latent variable distributions between classes, the resulting model is robust against data insufficiency. We limited number of samples to 10 for each class from the 2nd task of SplitMNIST and evaluated on it. Its accuracy was 64.8%, which was 7.9 points higher than 56.9% of Generative Replay. | |
| キーワード | （和） | Few-Shot学習 / 継続学習 / 転移学習 / / / / / |
| （英） | Few-Shot Learning / Incremental Learning / Transfer Learning / / / / / | |
| 文献情報 | 信学技報, vol. 120, no. 300, PRMU2020-48, pp. 58-62, 2020年12月. | |
| 資料番号 | PRMU2020-48 | |
| 発行日 | 2020-12-10 (PRMU) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | PRMU2020-48 |
|
| 研究会情報 | |
| 研究会 | PRMU |
| 開催期間 | 2020-12-17 - 2020-12-18 |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | 転移学習・少数データからの学習 |
| テーマ（英） | Transfer learning and few shot learning |
| 講演論文情報の詳細 | |
| 申込み研究会 | PRMU |
| 会議コード | 2020-12-PRMU |
| 本文の言語 | 日本語 |
| タイトル（和） | 変分自己符号化器との統合によるFew-Shot継続学習 |
| サブタイトル（和） | |
| タイトル（英） | Few-Shot Incremental Learning by Unifying with Variational Autoencoder |
| サブタイトル（英） | |
| キーワード(1)（和/英） | Few-Shot学習 / Few-Shot Learning |
| キーワード(2)（和/英） | 継続学習 / Incremental Learning |
| キーワード(3)（和/英） | 転移学習 / Transfer Learning |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 髙山 啓太 / Keita Takayama / タカヤマ ケイタ |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： TokyoTech) |
| 第2著者 氏名（和/英/ヨミ） | 宇都 有昭 / Kuniaki Uto / ウト クニアキ |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： TokyoTech) |
| 第3著者 氏名（和/英/ヨミ） | 篠田 浩一 / Koichi Shinoda / シノダ コウイチ |
| 第3著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： TokyoTech) |
| 講演者 | 第1著者 |
| 発表日時 | 2020-12-17 16:20:00 |
| 発表時間 | 10分 |
| 申込先研究会 | PRMU |
| 資料番号 | PRMU2020-48 |
| 巻番号（vol） | vol.120 |
| 号番号（no） | no.300 |
| ページ範囲 | pp.58-62 |
| ページ数 | 5 |
| 発行日 | 2020-12-10 (PRMU) |
[研究会発表申込システムのトップページに戻る]