| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2026-03-03 11:00 ［ポスター講演］音声認識におけるコンテキスト依存度の提案とMambaの有効性分析 ○佐藤丈一郎・樋口陽祐・小林哲則・小川哲司（早大）  EA2025-126 SIP2025-146 SP2025-79 |
|
| 抄録 | （和） | 本稿では，音声認識における「コンテキスト依存度」を定義し， Mambaが過去コンテキストの利用においてConformerと同等の能力を持つかを検証した． 近年，State Space Model（SSM）に基づくMambaが系列モデリングにおいて注目を集めている． MambaはAttention機構を用いず，再帰的な状態更新により系列を処理するアーキテクチャであり， 音声認識においてもConformerに匹敵する認識精度を示すことが報告されている． しかし，Attention機構とSSMでは過去コンテキストの処理方法が根本的に異なるにもかかわらず， Mambaがなぜ高い認識性能を達成できるのかは十分に明らかになっていない． 本研究では，過去コンテキストへの依存が高い状況においても MambaがConformerと同等の性能を維持できるかを検証する． 検証にあたり，参照可能な過去コンテキストを増やした際の出力エントロピーの減少量に基づき， 単語ごとの「コンテキスト依存度」を定義した． この指標を用いて単語をコンテキスト依存度の高低で分類し，各群におけるMambaとConformerの認識精度を比較した． 実験の結果，コンテキスト依存度が高い単語群においても MambaはConformerと同等以上の認識精度を示し，性能劣化は確認されなかった． この結果は，Mambaの再帰的な状態圧縮機構が， 過去コンテキストの処理においてもAttention機構に劣らない能力を持つことを示唆している． |
| （英） | This paper defines ``context dependency'' in automatic speech recognition (ASR) and investigates whether Mamba maintains recognition performance comparable to Conformer in situations with high dependency on past context. Recently, Mamba, a sequence modeling architecture based on State Space Models (SSMs), has attracted attention as an alternative to Transformers. Unlike self-attention mechanisms, Mamba processes sequences through recursive state updates, achieving recognition accuracy comparable to Conformer in ASR tasks. However, despite the fundamental differences in how attention mechanisms and SSMs process past context, it remains unclear why Mamba achieves such strong modeling performance. This study approaches this question by examining whether Mamba can maintain performance comparable to Conformer, even in situations where the dependency on past context is high. To this end, we define a word-level metric called context dependency, which quantifies how much each word relies on past context by measuring the reduction in output entropy as the accessible context window increases. Using this metric, we classify words into high and low dependency groups and compare the recognition accuracy of Mamba and Conformer for each group. Experimental results show that Mamba achieves recognition accuracy comparable to or better than Conformer, even for words with high context dependency, with no performance degradation observed. These results suggest that Mamba's recursive state compression mechanism has capabilities comparable to attention mechanisms in utilizing past context. |
|
| キーワード | （和） | 音声認識 / Mamba / State Space Model / Conformer / コンテキスト依存度 / / / |
| （英） | automatic speech recognition / Mamba / state space model / Conformer / context dependency / / / | |
| 文献情報 | 信学技報, vol. 125, no. 371, SP2025-79, pp. 318-323, 2026年3月. | |
| 資料番号 | SP2025-79 | |
| 発行日 | 2026-02-23 (EA, SIP, SP) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EA2025-126 SIP2025-146 SP2025-79 |
|
| 研究会情報 | |
| 研究会 | SP EA SIP IPSJ-SLP |
| 開催期間 | 2026-03-02 - 2026-03-04 |
| 開催地（和） | 沖縄県青年会館 |
| 開催地（英） | |
| テーマ（和） | 音声，応用／電気音響，信号処理，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SP |
| 会議コード | 2026-03-SP-EA-SIP-SLP |
| 本文の言語 | 日本語 |
| タイトル（和） | 音声認識におけるコンテキスト依存度の提案とMambaの有効性分析 |
| サブタイトル（和） | |
| タイトル（英） | Context Dependency in Automatic Speech Recognition: Analyzing Mamba's Effectiveness |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 音声認識 / automatic speech recognition |
| キーワード(2)（和/英） | Mamba / Mamba |
| キーワード(3)（和/英） | State Space Model / state space model |
| キーワード(4)（和/英） | Conformer / Conformer |
| キーワード(5)（和/英） | コンテキスト依存度 / context dependency |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 佐藤 丈一郎 / Joichiro Sato / サトウ ジョウイチロウ |
| 第1著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 樋口 陽祐 / Yosuke Higuchi / |
| 第2著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 小林 哲則 / Tetsunori Kobayashi / コバヤシ テツノリ |
| 第3著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 小川 哲司 / Tetsuji Ogawa / オガワ テツジ |
| 第4著者 所属（和/英） | 早稲田大学 (略称： 早大) Waseda University (略称： Waseda Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2026-03-03 11:00:00 |
| 発表時間 | 80分 |
| 申込先研究会 | SP |
| 資料番号 | EA2025-126, SIP2025-146, SP2025-79 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.369(EA), no.370(SIP), no.371(SP) |
| ページ範囲 | pp.318-323 |
| ページ数 | 6 |
| 発行日 | 2026-02-23 (EA, SIP, SP) |
[研究会発表申込システムのトップページに戻る]