Download presentation
Presentation is loading. Please wait.
1
制約付き非負行列因子分解を用いた 音声特徴抽出の検討
神戸大学大学院 工学研究科 朴 玄信，滝口哲也，有木康雄
2
発表構成 研究背景・目的 非負行列因子分解(NMF: Nonnegative Matrix Factorization） 提案手法 評価実験
モデル，初期化，更新ルール，制約 提案手法 相関情報を用いたNMFの初期化 NMFを用いた音声特徴抽出 評価実験 NMFの誤差による評価 単語音声認識率による評価 まとめ・今後の課題 第１０回音声言語シンポジウム
3
研究背景・目的 音声認識システムの性能向上のため， 観測信号から重要な音声特徴だけを抽出する手法が必要
PCAやICAなど統計的手法に基づく事前知識を用いた データ依存型特徴抽出法が有効 非負行列因子分解（NMF）は局所的特徴抽出に有効 画像などの高次元空間上のデータから局所的基底（パーツ） 音源分離などにも応用 音声認識のための，NMFを用いた特徴抽出 相関情報を用いた，NMFの初期化 第１０回音声言語シンポジウム
4
非負行列因子分解(NMF) 1/2 X W H n本 m次元サンプル r本 基底ベクトル n本 r次元係数サンプル
第１０回音声言語シンポジウム
5
非負行列因子分解(NMF) 2/2 目的関数（XとWH間） 更新ルール（WとHの要素ごと） スパースネス制約
ユークリッド距離，カルバック・ライブラー情報量 更新ルール（WとHの要素ごと） 加算ルール，乗算ルール スパースネス制約 Wに対して，以下のパースネス尺度を満たすように射影 第１０回音声言語シンポジウム
6
NMFの初期化手法 Random-based Clustering-based SVD-based
WとHを，N(0,1)に従うランダム値の絶対値で初期化 Clustering-based (Spherical) K-Means clustering [S.Wild(2004), Y.Xue(2008)] Wをクラスタの中心ベクトルで構成，Hはランダム SVD-based NNDSVD (Non-Negative Double Singular Value Decomposition) [C.Boutsidis(2008)] WとHを，Xの特異ベクトルで構成 ただし，負の成分には，０か，Xの平均値を代入 第１０回音声言語シンポジウム
7
相関伝播初期化 (1/2) X W H 相関行列 和相関 X0 H0 = X0 0.6 1 0.8 X1 H1 1 0.5 0.7 X2 0 1 H2 第１０回音声言語シンポジウム
8
相関伝播初期化 (2/2) 相関伝播初期化の定式化 相関伝播初期化の特徴 d : 最大和相関を持つ次元 c: d次元とl次元間の相関比
局所的な初期解（W） ランダム要素なし 比較的早い計算スピード 第１０回音声言語シンポジウム
9
Pre-emphasis/ windowing
NMFを用いた音声特徴抽出 特徴抽出フロー 定式化 DCTやPCAの高次特徴も考慮した特徴抽出 Pre-emphasis/ windowing FFT |.|2 Mel filter log DCT NMF Speech signal MFCC Proposed Feature 第１０回音声言語シンポジウム
10
実験条件 データ行列X NMF更新 NMF初期化手法の比較 単語音声認識 音声特徴抽出法の比較(２４次元（12＋Δ12)，平均０正規化)
24 x 5,075 （対数メルフィルタバンク出力 x ランダムサンプル数 ） 音素と話者のバランスがとれたランダムサンプリング NMF更新 乗算ルールとスパースネス制約による，2万回更新 スパースネス制約は，０．２～０．７ NMF初期化手法の比較 RANDOM, SKM, NNDSVD, CP 単語音声認識 男女１０人から，学習データ26,200単語，テストデータ10,000単語 音響モデル：５４個のモノフォンHMM，３状態２０混合 音声特徴抽出法の比較(２４次元（12＋Δ12)，平均０正規化) DCT(MFCC), PCA, ICA, NMF 第１０回音声言語シンポジウム
11
初期化手法による基底Wと誤差 初期化 RANDOM SKM NNDSVD CP 誤差 3.5E+06 1.5E+06 2.0E+05
第１０回音声言語シンポジウム
12
２万回更新後の基底Wの変化 第１０回音声言語シンポジウム
13
２万回更新後の誤差 第１０回音声言語シンポジウム
14
NMFを用いた単語認識 第１０回音声言語シンポジウム
15
特徴抽出手法の比較（変換行列，認識率） 第１０回音声言語シンポジウム
16
まとめ 相関伝播初期化は誤差最小化に有効 NMFによる特徴量は，PCAによる特徴量と同等の性能 今後の課題 中程度スパースネス制約
弱いスパースネス制約 -> 局所的より大局的特徴が有効？ 今後の課題 対角分散共分散用いるため，NMFの直交化（離散コサイン変換など） パワースペクトル空間上でのNMF （メルフィルタバンクの代わりとして） NMFの初期化手法と更新ルールとの関係について 第１０回音声言語シンポジウム
17
第１０回音声言語シンポジウム
18
行列W 初期 MSE DIV SC_W0.2 第１０回音声言語シンポジウム
19
NMF推定誤差（｜X-WH｜F） ERROR RAND SKM SVD SVDa CP CPa Initial 3.75E+06 1.25E+05 2.78E+02 1.98E+05 2.16E+04 2.04E+06 MSE 23.84 23.88 73.35 23.95 45.45 23.82 DIV 40.45 40.50 127.62 40.65 73.42 40.39 SC_0.2 24.01 24.00 57.06 24.05 23.96 23.99 SC_0.4 123.51 23.87 23.81 第１０回音声言語シンポジウム
20
単語認識結果 clean RAND SKM SVD SVDa CP CPa MSE 95.4 96.0 93.7 95.7 91.7
96.4 DIV 95.9 93.4 95.6 96.6 SC_0.2 96.1 90.2 96.3 SC_0.4 95.0 94.3 90.9 95.2 第１０回音声言語シンポジウム
Similar presentations
