| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-03-01 10:40 CTC音声認識モデルにおけるビームサーチデコーディング内での暗黙的言語情報の置換 ○高城巽成・若林佑幸（豊橋技科大）・小川厚徳（NTT）・北岡教英（豊橋技科大）  EA2023-106 SIP2023-153 SP2023-88 |
|
| 抄録 | （和） | 自動音声認識の分野ではニューラルネットワークの台頭により， 音声認識モデルの精度が向上し， 字幕生成や議事録作成など様々な分野で利用されている． しかしながら， 音声認識モデルの学習と推論に用いるデータのドメインが異なる場合，認識精度が低下する問題がある． この問題を解決するドメイン適応手法として， Shallow FusionやDensity Ratio Approach (DRA) が提案されており， 音声認識モデルの再学習なしにドメイン適応が可能であるため， 導入のコストが低く， より実用的な手法となっている． 我々の先行研究では， CTCデコーダを用いた音声認識モデルにおけるDRAの適用を検討したが， ビームサーチと併用した場合のDRAの適用については検討されていない． そこで本研究では，CTCデコーダを用いた音声認識モデルにおけるビームサーチ内でのDRAの適用を検討した． ビームサーチ内でDRAを適用させるためにアルゴリズムを拡張した． 実験において，加算用と減算用の言語モデルについてさまざまな種類の言語モデルを組み合わせ， 実験を行った． 実験の結果として， ビームサーチ内でのDRAの適用により， 1-gram言語モデルから6-gram言語モデルを用いた様々な組み合わせで認識精度が向上することを示した． 特に， 減算用言語モデルに1-gram言語モデルを用いた場合に最も認識精度が向上することを示した． これはCTCデコーダを用いた音声認識モデルにおける暗黙の言語情報が1-gram言語モデルに近い言語情報を持っており， 正しく言語情報を置換できたことで認識精度が向上したと考えられる． |
| （英） | The rise of neural networks in the field of automatic speech recognition has notably improved the accuracy of speech recognition models, making them widely applicable in areas such as subtitle generation and meeting transcription. However, a challenge arises when there is a mismatch between the domains of data used for training and inference, leading to reduced accuracy. To address this issue, domain adaptation techniques like Shallow Fusion and Density Ratio Approach (DRA) have been proposed. These methods enable domain adaptation without the need to retrain the speech recognition model, making them cost-effective and practical. In our prior research, we explored the application of DRA in speech recognition models using a Connectionist Temporal Classification (CTC) decoder. However, the use of DRA in conjunction with beam search had not been examined. Therefore, our current study investigates the application of DRA within beam search in CTC decoder-based speech recognition models. We expanded the algorithm to integrate DRA within beam search. Our experiments involved various combinations of additive and subtractive language models. The results demonstrated that applying DRA within beam search improved recognition accuracy across different combinations of language models, from 1-gram to 6-gram. Notably, the use of a 1-gram model as the subtractive language model showed the most significant improvement in accuracy. This suggests that the implicit linguistic information in CTC decoder-based speech recognition models is closely aligned with a 1-gram language model, and the correct replacement of linguistic information through DRA led to enhanced recognition accuracy. | |
| キーワード | （和） | End-to-End音声認識 / 言語モデル / CTC / DRA / ビームサーチ / / / |
| （英） | End-to-End Speech Recognition / Language Model / CTC / DRA / Beam Search / / / | |
| 文献情報 | 信学技報, vol. 123, no. 403, SP2023-88, pp. 268-273, 2024年2月. | |
| 資料番号 | SP2023-88 | |
| 発行日 | 2024-02-22 (EA, SIP, SP) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EA2023-106 SIP2023-153 SP2023-88 |
|
| 研究会情報 | |
| 研究会 | SIP SP EA IPSJ-SLP |
| 開催期間 | 2024-02-29 - 2024-03-01 |
| 開催地（和） | 沖縄産業支援センター |
| 開催地（英） | |
| テーマ（和） | 音声，応用／電気音響, 信号処理，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SP |
| 会議コード | 2024-02-SIP-SP-EA-SLP |
| 本文の言語 | 日本語 |
| タイトル（和） | CTC音声認識モデルにおけるビームサーチデコーディング内での暗黙的言語情報の置換 |
| サブタイトル（和） | |
| タイトル（英） | Substitution of Implicit Linguistic Information in Beam Search Decoding Using CTC-based Speech Recognition Models |
| サブタイトル（英） | |
| キーワード(1)（和/英） | End-to-End音声認識 / End-to-End Speech Recognition |
| キーワード(2)（和/英） | 言語モデル / Language Model |
| キーワード(3)（和/英） | CTC / CTC |
| キーワード(4)（和/英） | DRA / DRA |
| キーワード(5)（和/英） | ビームサーチ / Beam Search |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 高城 巽成 / Tatsunari Takagi / タカギ タツナリ |
| 第1著者 所属（和/英） | 豊橋技術科学大学 (略称： 豊橋技科大) Toyohashi University of Technology (略称： TUT) |
| 第2著者 氏名（和/英/ヨミ） | 若林 佑幸 / Yukoh Wakabayashi / ワカバヤシ ユウコウ |
| 第2著者 所属（和/英） | 豊橋技術科学大学 (略称： 豊橋技科大) Toyohashi University of Technology (略称： TUT) |
| 第3著者 氏名（和/英/ヨミ） | 小川 厚徳 / Atsunori Ogawa / オガワ アツノリ |
| 第3著者 所属（和/英） | 日本電信電話株式会社 (略称： NTT) NIPPON TELEGRAPH AND TELEPHONE CORPORATION (略称： NTT) |
| 第4著者 氏名（和/英/ヨミ） | 北岡 教英 / Norihide Kitaoka / キタオカ ノリヒデ |
| 第4著者 所属（和/英） | 豊橋技術科学大学 (略称： 豊橋技科大) Toyohashi University of Technology (略称： TUT) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-03-01 10:40:00 |
| 発表時間 | 60分 |
| 申込先研究会 | SP |
| 資料番号 | EA2023-106, SIP2023-153, SP2023-88 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | no.401(EA), no.402(SIP), no.403(SP) |
| ページ範囲 | pp.268-273 |
| ページ数 | 6 |
| 発行日 | 2024-02-22 (EA, SIP, SP) |
[研究会発表申込システムのトップページに戻る]