| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2022-03-02 10:20 Hybrid RNN-T/Attention構造を用いたストリーミング型End-to-End音声認識モデルと内部言語モデル統合の検討 ○森谷崇史・芦原孝典・安藤厚志・佐藤 宏・田中智大・松浦孝平・増村 亮・デルクロア マーク（NTT）・篠崎隆宏（東工大）  EA2021-78 SIP2021-105 SP2021-63 |
|
| 抄録 | （和） | 本研究ではストリーミング音声認識におけるRecurrent neural network-transducer（RNN-T）とAttention-based decoder（AD）を組み合わせたHybrid RNN-T/Attentionモデルの改善手法について述べる．一般にADは注意重みの計算に始端から終端までの入力音声情報が必要なためストリーミング動作が困難であった．そこで我々は先行研究として始端から各triggerの位置までの音響特徴量を用いて注意重みを計算するTriggered attention-based decoder（TAD）と組み合わせることでストリーミング動作可能なHybrid RNN-T/Attentionモデルを提案した．しかしながら従来のTADではストリーミング処理を可能としたが，計算量やメモリ消費量に課題があった．本研究では認識精度を保ちながら計算コストが削減可能なTriggered chunkwise attention-based decoder（TCAD）を用いたHybrid RNN-T/Attentionモデルを提案する．また，本研究ではさらなる認識精度の改善に向けてHybrid RNN-T/Attentionモデルが持つ２種類の内部言語モデルを用いた言語モデルの統合方法についても検討を行なう． |
| （英） | In this paper we propose improvements to our recently proposed hybrid RNN-T/Attention architecture that includes a shared encoder followed by recurrent neural network-transducer (RNN-T) and triggered attention-based decoders (TAD). The use of triggered attention enables the attention-based decoder (AD) to operate in a streaming manner. When a trigger point is detected by RNN-T, TAD uses the context from the start-of-speech up to that trigger point to compute the attention weights. Consequently, the computation costs and the memory consumptions are quadratically increased with the duration of the utterances because all input features must be stored and used to re-compute the attention weights. In this paper, we use a short context from a few frames prior to each trigger point for attention weight computation resulting in reduced computation and memory costs. We call the proposed framework triggered chunkwise AD (TCAD). We also investigate the effectiveness of internal language model (ILM) estimation approach using both ILMs of RNN-T and TCAD heads for improving RNN-T performance. | |
| キーワード | （和） | 音声認識 / neural network / end-to-end / recurrent neural network-transducer / attention-based decoder / / / |
| （英） | ASR / neural network / end-to-end / recurrent neural network-transducer / attention-based decoder / / / | |
| 文献情報 | 信学技報, vol. 121, no. 385, SP2021-63, pp. 90-95, 2022年3月. | |
| 資料番号 | SP2021-63 | |
| 発行日 | 2022-02-22 (EA, SIP, SP) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EA2021-78 SIP2021-105 SP2021-63 |
|
| 研究会情報 | |
| 研究会 | EA SIP SP IPSJ-SLP |
| 開催期間 | 2022-03-01 - 2022-03-02 |
| 開催地（和） | 沖縄県立博物館・美術館 |
| 開催地（英） | |
| テーマ（和） | 応用／電気音響, 信号処理，音声，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SP |
| 会議コード | 2022-03-EA-SIP-SP-SLP |
| 本文の言語 | 日本語 |
| タイトル（和） | Hybrid RNN-T/Attention構造を用いたストリーミング型End-to-End音声認識モデルと内部言語モデル統合の検討 |
| サブタイトル（和） | |
| タイトル（英） | A Study on Hybrid RNN-T/Attention-based Streaming ASR with Triggered Chunkwise Attention and Dual Internal Language Model Integration |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 音声認識 / ASR |
| キーワード(2)（和/英） | neural network / neural network |
| キーワード(3)（和/英） | end-to-end / end-to-end |
| キーワード(4)（和/英） | recurrent neural network-transducer / recurrent neural network-transducer |
| キーワード(5)（和/英） | attention-based decoder / attention-based decoder |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 森谷 崇史 / Takafumi Moriya / モリヤ タカフミ |
| 第1著者 所属（和/英） | NTT (略称： NTT) NTT (略称： NTT) |
| 第2著者 氏名（和/英/ヨミ） | 芦原 孝典 / Takanori Ashihara / アシハラ タカノリ |
| 第2著者 所属（和/英） | NTT (略称： NTT) NTT (略称： NTT) |
| 第3著者 氏名（和/英/ヨミ） | 安藤 厚志 / Atsushi Ando / アンドウ アツシ |
| 第3著者 所属（和/英） | NTT (略称： NTT) NTT (略称： NTT) |
| 第4著者 氏名（和/英/ヨミ） | 佐藤 宏 / Hiroshi Sato / サトウ ヒロシ |
| 第4著者 所属（和/英） | NTT (略称： NTT) NTT (略称： NTT) |
| 第5著者 氏名（和/英/ヨミ） | 田中 智大 / Tomohiro Tanaka / タナカ トモヒロ |
| 第5著者 所属（和/英） | NTT (略称： NTT) NTT (略称： NTT) |
| 第6著者 氏名（和/英/ヨミ） | 松浦 孝平 / Kohei Matsuura / マツウラ コウヘイ |
| 第6著者 所属（和/英） | NTT (略称： NTT) NTT (略称： NTT) |
| 第7著者 氏名（和/英/ヨミ） | 増村 亮 / Ryo Masumura / マスムラ リョウ |
| 第7著者 所属（和/英） | NTT (略称： NTT) NTT (略称： NTT) |
| 第8著者 氏名（和/英/ヨミ） | デルクロア マーク / Marc Delcroix / デルクロア マーク |
| 第8著者 所属（和/英） | NTT (略称： NTT) NTT (略称： NTT) |
| 第9著者 氏名（和/英/ヨミ） | 篠崎 隆宏 / Takahiro Shinozaki / シノザキ タカヒロ |
| 第9著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Tech) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2022-03-02 10:20:00 |
| 発表時間 | 25分 |
| 申込先研究会 | SP |
| 資料番号 | EA2021-78, SIP2021-105, SP2021-63 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | no.383(EA), no.384(SIP), no.385(SP) |
| ページ範囲 | pp.90-95 |
| ページ数 | 6 |
| 発行日 | 2022-02-22 (EA, SIP, SP) |
[研究会発表申込システムのトップページに戻る]