| 講演抄録/キーワード |
| 講演名 |
2022-12-16 14:10
Data Pruningにおけるサンプリング戦略 ○東 遼太・和田俊和(和歌山大) PRMU2022-48 |
| 抄録 |
(和) |
Data Pruningは学習後の精度を維持するように訓練サンプル全体から一部を選択する手法である.識別モデルの学習では識別境界に近いHard Example(HE)が重要だが,学習済みモデルの出力をもとにHEを選ぶと,サンプル数の減少に伴いランダムサンプリングよりも精度は劣化する.この現象はHEのみでは特徴空間を再現できないためであるが,他の選択基準でも同様かは不明である.様々な基準で選択した訓練サンプルを用いた実験の結果から,適切な選択基準はサンプル数によって異なるため,Data Pruningにおいては異なる選択基準を如何に組み合わせるかが課題であると言える. |
| (英) |
Data Pruning is a method of selecting the training data out of an entire training dataset so as to keep the accuracy after training. In discriminative models, Hard Examples (HEs) that are close to the decision boundary is important for training. However, when HEs are selected based on pretrained model’s outputs, the accuracy gets worse than random sampling as the sample size decreases. This phenomenon is caused that feature space cannot be reconstructed only from HE, but it is unclear if the phenomenon occurs by other criteria. The experiments using selected datasets by different criteria showed that the appropriate criterion varies by sample size, and it is necessary to combine different criteria in Data Pruning. |
| キーワード |
(和) |
深層学習 / 枝狩り / 画像分類 / 識別境界 / サンプリング戦略 / / / |
| (英) |
Deep Learning / Pruning / Image Classification / Decision Boundary / Sampling Strategy / / / |
| 文献情報 |
信学技報, vol. 122, no. 314, PRMU2022-48, pp. 85-90, 2022年12月. |
| 資料番号 |
PRMU2022-48 |
| 発行日 |
2022-12-08 (PRMU) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
PRMU2022-48 |