| 講演抄録/キーワード |
| 講演名 |
2015-07-16 17:20
線形変換ネットワークを用いて話者正規化学習されたDNNにおけるネットワークサイズが与える影響の実験的評価 ○落合 翼(同志社大/NICT)・松田繁樹(同志社大)・渡辺秀行・ル シュガン・河井 恒(NICT)・片桐 滋(同志社大) SP2015-41 |
| 抄録 |
(和) |
これまでに著者らは,ハイブリッド型 DNN-HMM 音響モデルに対して話者正規化学習法のコンセプトを
取り入れた新たな話者適応法 (SAT-DNN) を提案してきた.これまでの報告においては,入出力層に加えて 5 つの隠
れ層を持ち,また各隠れ層が 512 個のノードを持つネットワーク構成の DNN を使用し,評価実験を通してその有効
性を示してきた.本報告においては,SAT-DNN 法の最新の改良版である SAT-DNN-LTN 法に着目し,より大きな
ネットワーク構造 (隠れ層のノード数に関して) を持つ DNN を使用した評価実験を行うことで,SAT-DNN-LTN 法
に対してネットワークサイズが与える影響についての検証を行った.実験結果から,SAT-DNN-LTN 法が,複数のよ
り大きなサイズの DNN に対しても,安定してネットワークの適応効果を向上させることが確認された. |
| (英) |
Recently we proposed a novel speaker adaptation method that applied the Speaker Adaptive Training
(SAT) concept to DNN-HMM (SAT-DNN) recognizer and showed its fundamental utility from speaker adaptation
experiments using the TED Talks corpus data. The network employed in our previous experiment consisted of seven
layers: an input layer, five hidden layers, and an output layer. Every hidden layer had 512 nodes, but the validity
of such a network size (512 nodes per layer) was not ensured. Actually, the demonstrated effect of a SAT-DNN
recognizer might have originated from some by-effect of a small network. In addition to this standing question, we
revised SAT-DNN by embedding a Linear Transformation Network (LTN) in a hidden layer of DNN and demonstrated
the superiority over SAT-DNN of this new network called SAT-DNN-LTN. Taking these facts into account,
we investigate in this paper the effectiveness of larger SAT-DNN-LTN recognizers, whose hidden DNN layer has
1024 or 2048 nodes, in the same speaker adaptation experiment framework as in our previous paper. Experiment
results show that larger SAT-DNN-LTN recognizers steadily improve word recognition accuracies and successfully
prove the utility of the recognizer concept of SAT-DNN-LTN. |
| キーワード |
(和) |
話者正規化学習 / ディープニューラルネットワーク / 線形変換ネットワーク / 正則化付き適応 / / / / |
| (英) |
Speaker Adaptive Training / Deep Neural Network / Linear Transformation Network / Regularized Adaptation / / / / |
| 文献情報 |
信学技報, vol. 115, no. 146, SP2015-41, pp. 31-36, 2015年7月. |
| 資料番号 |
SP2015-41 |
| 発行日 |
2015-07-09 (SP) |
| ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
SP2015-41 |