| 講演抄録/キーワード |
| 講演名 |
2024-03-13 17:20
日本語基盤モデルにおけるデータ拡張の適用 ○江良和樹・中野秀洋(東京都市大) MSS2023-84 NLP2023-136 |
| 抄録 |
(和) |
近年のトピックの一つとしてデータ拡張がある. データ拡張は,教師あり学習においてその性能を改善させるために,訓練データを水増しする手法である. 画像処理の分野ではデータ拡張は標準的に用いられている. しかし,テキストデータの場合,安易にデータ拡張を行うと文意が大きく変わるため,精度低下を招く可能性がある.画像に対するデータ拡張では,ぼかしや反転,色彩変化などの操作により大量に有効な学習データを生成できるが,テキストでは,1つの単語が欠落したり,順序が少し変わるだけで文意が大きく変わってしまう.このため,拡張処理によって,精度低下の原因となるような意味をなさない文章や,属するクラスが異なる文の生成が起こりやすいと考えられる.また, 言語によって文法などが変わるため, 言語が異なる場合, 同様の効果を発揮できるとは限らない. 本論文では, Jason Wei 氏らによるEDA(Easy Data Augmentation)をもとに,1つのテキストから複数のテキストを生成することでデータの不均衡や不足に対応させる方法を検討する. |
| (英) |
One of the recent topics is data augmentation. Data augmentation is a method of augmenting training data to improve the performance of supervised learning. In the field of image processing, data augmentation is a standard practice. However, in the case of text data, data augmentation can cause a significant change in the meaning of the sentence, which may lead to a loss of accuracy. While data expansion for images can generate a large amount of valid training data by operations such as blurring, inversion, and color change, for text data, a single missing word or a slight change in the order of words can drastically change the meaning of the text. Therefore, the expansion process is likely to generate sentences that make no sense or belong to different classes, which may cause accuracy loss. In addition, the effect may not be the same for different languages, since the grammar and other factors vary depending on the language. In this paper, based on Easy Data Augmentation (EDA) by Jason Wei et al., we investigate a method to deal with data imbalance or lack of data by generating multiple texts from a single text. |
| キーワード |
(和) |
自然言語処理 / 基盤モデル / データ拡張 / / / / / |
| (英) |
natural language processing / foundation model / data augmentation / / / / / |
| 文献情報 |
信学技報, vol. 123, no. 428, NLP2023-136, pp. 66-69, 2024年3月. |
| 資料番号 |
NLP2023-136 |
| 発行日 |
2024-03-06 (MSS, NLP) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
MSS2023-84 NLP2023-136 |
| 研究会情報 |
| 研究会 |
NLP MSS |
| 開催期間 |
2024-03-13 - 2024-03-14 |
| 開催地(和) |
機械振興会館 |
| 開催地(英) |
Kikai-Shinko-Kaikan Bldg. |
| テーマ(和) |
MSS,NLP,一般,およびWIP(MSSのみ) |
| テーマ(英) |
MSS, NLP, etc. |
| 講演論文情報の詳細 |
| 申込み研究会 |
NLP |
| 会議コード |
2024-03-NLP-MSS |
| 本文の言語 |
日本語 |
| タイトル(和) |
日本語基盤モデルにおけるデータ拡張の適用 |
| サブタイトル(和) |
|
| タイトル(英) |
Application of Data Augmentation in Japanese Foundation Models |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
自然言語処理 / natural language processing |
| キーワード(2)(和/英) |
基盤モデル / foundation model |
| キーワード(3)(和/英) |
データ拡張 / data augmentation |
| キーワード(4)(和/英) |
/ |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
江良 和樹 / Kazuki Era / エラ カズキ |
| 第1著者 所属(和/英) |
東京都市大学 (略称: 東京都市大)
Tokyo City University (略称: Tokyo City Univ.) |
| 第2著者 氏名(和/英/ヨミ) |
中野 秀洋 / Hidehiro Nakano / ナカノ ヒデヒロ |
| 第2著者 所属(和/英) |
東京都市大学 (略称: 東京都市大)
Tokyo City University (略称: Tokyo City Univ.) |
| 第3著者 氏名(和/英/ヨミ) |
/ / |
| 第3著者 所属(和/英) |
(略称: )
(略称: ) |
| 第4著者 氏名(和/英/ヨミ) |
/ / |
| 第4著者 所属(和/英) |
(略称: )
(略称: ) |
| 第5著者 氏名(和/英/ヨミ) |
/ / |
| 第5著者 所属(和/英) |
(略称: )
(略称: ) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2024-03-13 17:20:00 |
| 発表時間 |
25分 |
| 申込先研究会 |
NLP |
| 資料番号 |
MSS2023-84, NLP2023-136 |
| 巻番号(vol) |
vol.123 |
| 号番号(no) |
no.427(MSS), no.428(NLP) |
| ページ範囲 |
pp.66-69 |
| ページ数 |
4 |
| 発行日 |
2024-03-06 (MSS, NLP) |
|