講演抄録/キーワード |
講演名 |
2023-03-02 09:20
画像識別における形状・テクスチャ偏重度と二重降下現象の関係について ○髙橋秀弥(東京電機大/産総研)・井上中順・横田理央(東工大)・片岡裕雄(産総研)・前田英作(東京電機大) PRMU2022-60 IBISML2022-67 |
抄録 |
(和) |
ある条件下における機械学習の学習性能は,学習エポック数やモデル容量に対して二重降下と呼ばれる奇妙な現象が起こる.また,画像認識タスクに対する深層学習では,形状特徴に関する学習とテクスチャ特徴に対する学習が異なる時間経過をとることも知られている.これら二つの現象間の関係性に着目し,タスク,実験条件などを変化させた実験を行い,学習結果の分析を行った.ImageNetによる事前学習の有無,ラベルノイズ負荷の有無などによって異なる学習経過をとる一方で,二つの現象に特徴的な変化のタイミングは一致する傾向が見られた. |
(英) |
Under certain conditions, the learning performance of machine learning undergoes a strange phenomenon called double-descent with respect to the number of training epochs and model capacity. In deep learning for image recognition tasks, it is also known that learning for shape features and learning for texture features take different time courses. We analyzed the learning results by varying the task, experimental conditions, etc., and found that the learning process differs depending on whether there is prior training with ImageNet, whether there is label noise loading, and so on. On the other hand, the timing of changes characteristic of the two phenomena tended to coincide. |
キーワード |
(和) |
深層学習における二重降下現象 / 画像認識における形状・テクスチャ / 事前学習 / / / / / |
(英) |
Double Descent in Deep Learning / Shape/Texture in Image Identification / Pre-training / / / / / |
文献情報 |
信学技報, vol. 122, no. 404, PRMU2022-60, pp. 13-16, 2023年3月. |
資料番号 |
PRMU2022-60 |
発行日 |
2023-02-23 (PRMU, IBISML) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
PRMU2022-60 IBISML2022-67 |