お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2022-10-22 15:40
Conformerを用いた早期結合型マルチモーダル音声認識モデルの提案
青木伸和澤田 隼大村英史桂田浩一東京理科大SP2022-28 WIT2022-3
抄録 (和) 先行手法であるConformerエンコーダーを用いたlate fusionモデルのマルチモーダル音声認識では,視覚情報と音声情報の双方で独立したConformerエンコーダーを使用しているため,両モダリティ間の低レベルな関係を考慮した学習ができていない可能性があった.そこで本研究ではConformerエンコーダーを用いたearly fusion型のEnd-to-Endマルチモーダル音声認識モデルを検討し,モダリティ間の低レベルな関係を学習可能にすることで性能向上を図る.その結果,先行研究に対して特に低SNR下での認識精度が大幅に向上することを確認できた.また,early fusionによってモデルのパラメータ数も大幅に削減できることを確認した. 
(英) Previous studies of late fusion models with conformer encoders use independent encoders for both visual and audio information, which may prevent the encoders from capturing the low-level relation of both information. In this study, we investigate an end-to-end audio-visual speech recognition model with early fusion using a conformer encoder to improve its performance. We aim at utilizing the information of both modalities in the low-level process of feature extraction. The experimental results show that the accuracy of early fusion in recognition rate under low SNR outperforms that of late fusion proposed in the previous studies. We also confirmed that the total number of parameters in the model can be reduced by introducing early fusion.
キーワード (和) マルチモーダル音声認識 / Conformerモデル / 早期結合モデル / / / / /  
(英) Audio-visual speech recognition / Conformer model / Early fusion / / / / /  
文献情報 信学技報, vol. 122, no. 221, SP2022-28, pp. 8-13, 2022年10月.
資料番号 SP2022-28 
発行日 2022-10-15 (SP, WIT) 
ISSN Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード SP2022-28 WIT2022-3

研究会情報
研究会 SP WIT IPSJ-SLP  
開催期間 2022-10-22 - 2022-10-22 
開催地(和) 京都大学 
開催地(英) Kyoto University 
テーマ(和) 一般 
テーマ(英)  
講演論文情報の詳細
申込み研究会 SP 
会議コード 2022-10-SP-WIT-SLP 
本文の言語 日本語 
タイトル(和) Conformerを用いた早期結合型マルチモーダル音声認識モデルの提案 
サブタイトル(和)  
タイトル(英) Conformer based early fusion model for audio-visual speech recognition 
サブタイトル(英)  
キーワード(1)(和/英) マルチモーダル音声認識 / Audio-visual speech recognition  
キーワード(2)(和/英) Conformerモデル / Conformer model  
キーワード(3)(和/英) 早期結合モデル / Early fusion  
キーワード(4)(和/英) /  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 青木 伸和 / Nobukazu Aoki / アオキ ノブカズ
第1著者 所属(和/英) 東京理科大学 (略称: 東京理科大)
Tokyo University of Science (略称: Tokyo Univ. of Sci.)
第2著者 氏名(和/英/ヨミ) 澤田 隼 / Shun Sawada / サワダ シュン
第2著者 所属(和/英) 東京理科大学 (略称: 東京理科大)
Tokyo University of Science (略称: Tokyo Univ. of Sci.)
第3著者 氏名(和/英/ヨミ) 大村 英史 / Hidefumi Ohmura / オオムラ ヒデフミ
第3著者 所属(和/英) 東京理科大学 (略称: 東京理科大)
Tokyo University of Science (略称: Tokyo Univ. of Sci.)
第4著者 氏名(和/英/ヨミ) 桂田 浩一 / Kouichi Katsurada / カツラダ コウイチ
第4著者 所属(和/英) 東京理科大学 (略称: 東京理科大)
Tokyo University of Science (略称: Tokyo Univ. of Sci.)
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2022-10-22 15:40:00 
発表時間 40分 
申込先研究会 SP 
資料番号 SP2022-28, WIT2022-3 
巻番号(vol) vol.122 
号番号(no) no.221(SP), no.222(WIT) 
ページ範囲 pp.8-13 
ページ数
発行日 2022-10-15 (SP, WIT) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会