お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2023-06-24 13:50
目標ドメイン音声を用いた自己教師あり学習に基づく音声認識モデルのドメイン適応
木内貴浩豊橋技科大)・小川厚徳NTT)・若林佑幸北岡教英豊橋技科大SP2023-19
抄録 (和) 本研究では,目標ドメインの書き起こしテキストデータを利用せず,目標ドメインの音声データのみを用い,目標外ドメインで事前学習された音声認識モデルからドメイン適応する手法を提案する.音声認識は様々なサービスや事業で活用されており,それらの各ドメインにおける音声の認識精度は,そのドメインにおける音声データ量に依存することが知られている.一般的には,高精度な音声認識モデル構築のために大量の音声データとその書き起こしテキストデータによってスクラッチで学習,またはfine-tuning することが望ましいが,各ドメインにおけるモデル構築の度にこれらのデータを用意することは高コストであり困難である.そこで我々は,音声データのみを準備することが比較的低コストでできることに着目する.この条件のもと,本研究では,大量の目標ドメイン音声のみで事前学習したwav2vec 2.0 モデルをEncoder とする,Encoder-Decoder型音声認識モデルを,目標外ドメインの大量の書き起こしコーパスでfine-tuning し,目標ドメインに適応させる手法を提案する.提案手法は,三つの段階的な学習: 1) wav2vec2.0の追加事前学習,2) wav2vec2.0のfine-tuning,3) wav2vec2.0をEncoderとしたJoint CTC/Transformerモデル構築,によって構成されている.本手法を用いることで,目標ドメイン評価データに対し,Encoder を目標ドメインで事前学習しない場合に比べて,文字誤り率が約3.8 pts 改善された. 
(英) In this study, we propose a domain adaptation method using only speech data in the target domain without using transcribed text data in the target domain based on a speech recognition model that has been pre-trained in the source domain. Speech recognition is used in various services and businesses, and it is known that the accuracy of speech recognition in each of these domains depends on the amount of speech data in that domain. Generally, it is desirable to train or fine-tune speech recognition models from scratch using a large amount of speech data and transcribed text data to build highly accurate models. However, preparing such data is expensive and difficult every time a model is built in each domain. Therefore, we focused on the fact that it is relatively inexpensive to prepare only audio data. Under these conditions, we developed an Encoder-Decoder speech recognition model using a Wav2Vec2.0 model as the Encoder, which was pre-trained with a large amount of target-domain speech only, and a large corpus of fine-tuned transcriptions in the non-target domain. We propose adapting an Encoder-Decoder type speech recognition model to the target domain by fine-tuning it with a large corpus of transcriptions in the off-target domain. The proposed method consists of three steps: 1) additional pre-training of wav2vec 2.0, 2) fine-tuning of wav2vec 2.0, and 3) building a Joint CTC/Transformer model with wav2vec 2.0 as the Encoder. This method improved the character error rate by approximately 3.8 pts compared to the case where the Encoder was not pre-trained in the target domain for the target domain evaluation data.
キーワード (和) wav2vec 2.0 / ドメイン適応 / end-to-end 音声認識 / Encoder-Decoderモデル / / / /  
(英) wav2vec 2.0 / domain adaptation / end-to-end speech recognition / Encoder-Decoder model / / / /  
文献情報 信学技報, vol. 123, no. 88, SP2023-19, pp. 91-96, 2023年6月.
資料番号 SP2023-19 
発行日 2023-06-16 (SP) 
ISSN Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード SP2023-19

研究会情報
研究会 SP IPSJ-MUS IPSJ-SLP  
開催期間 2023-06-23 - 2023-06-24 
開催地(和) 電気通信大学 
開催地(英)  
テーマ(和) 音学シンポジウム2023 
テーマ(英)  
講演論文情報の詳細
申込み研究会 SP 
会議コード 2023-06-SP-MUS-SLP 
本文の言語 日本語 
タイトル(和) 目標ドメイン音声を用いた自己教師あり学習に基づく音声認識モデルのドメイン適応 
サブタイトル(和)  
タイトル(英) Domain adaptation of speech recognition models based on self-supervised learning using target domain speech 
サブタイトル(英)  
キーワード(1)(和/英) wav2vec 2.0 / wav2vec 2.0  
キーワード(2)(和/英) ドメイン適応 / domain adaptation  
キーワード(3)(和/英) end-to-end 音声認識 / end-to-end speech recognition  
キーワード(4)(和/英) Encoder-Decoderモデル / Encoder-Decoder model  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 木内 貴浩 / Takahiro Kinouchi / キノウチ タカヒロ
第1著者 所属(和/英) 豊橋技術科学大学 (略称: 豊橋技科大)
Toyohashi University of Technology (略称: TUT)
第2著者 氏名(和/英/ヨミ) 小川 厚徳 / Atsunori Ogawa / オガワ アツノリ
第2著者 所属(和/英) 日本電信電話株式会社 (略称: NTT)
NIPPON TELEGRAPH AND TELEPHONE CORPORATION (略称: NTT)
第3著者 氏名(和/英/ヨミ) 若林 佑幸 / Yuko Wakabayashi / ワカバヤシ ユウコウ
第3著者 所属(和/英) 豊橋技術科学大学 (略称: 豊橋技科大)
Toyohashi University of Technology (略称: TUT)
第4著者 氏名(和/英/ヨミ) 北岡 教英 / Norihide Kitaoka / キタオカ ノリヒデ
第4著者 所属(和/英) 豊橋技術科学大学 (略称: 豊橋技科大)
Toyohashi University of Technology (略称: TUT)
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2023-06-24 13:50:00 
発表時間 140分 
申込先研究会 SP 
資料番号 SP2023-19 
巻番号(vol) vol.123 
号番号(no) no.88 
ページ範囲 pp.91-96 
ページ数
発行日 2023-06-16 (SP) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会