6.3.2 BeamForming

6.3.2.1 ノードの概要

以下の手法を用いて音源分離を行う.

ノードの入力は,

である. また,出力は分離音ごとの複素スペクトルである.

6.3.2.2 必要なファイル

Table 6.37: BeamForming に必要なファイル

対応するパラメータ名

説明

TF_CONJ_FILENAME

マイクロホンアレーの伝達関数

6.3.2.3 使用方法

どんなときに使うのか

所与の音源方向に対して,マイクロホンアレーを用いて当該方向の音源分離を行う. なお,音源方向として,音源定位部での推定結果,あるいは,定数値を使用することができる.

典型的な接続例

BeamForming ノードの接続例を図 6.50に示す. 入力は以下である.

  1. INPUT_FRAMES : MultiFFT 等から来る混合音の多チャネル複素スペクトル

  2. INPUT_SOURCES : LocalizeMUSIC や ConstantLocalization 等から来る音源方向

  3. INPUT_NOISE_SOURCES : 抑圧対象音の音源方向(オプション入力)

出力は分離音声となる.

\includegraphics[width=.8\textwidth ]{fig/modules/Beamforming.eps}
Figure 6.50: BeamForming の接続例

6.3.2.4 ノードの入出力とプロパティ

入力

INPUT_FRAMES

: Matrix<complex<float> > 型.マルチチャネル複素スペクトル. 行がチャネル,つまり,各マイクロホンから入力された波形の 複素スペクトルに対応し,列が周波数ビンに対応する.

INPUT_SOURCES

: Vector<ObjectRef> 型.音源定位結果等が格納された Source 型オブジェクトの Vector 配列である. 典型的には, SourceTracker ノード,SourceIntervalExtender ノードと 繋げ,その出力を用いる.

INPUT_NOISE_SOURCES

: Vector<ObjectRef> 型.INPUT_SOURCES と同じ Source 型オブジェクトの Vector 配列である.雑音方向の情報のオプション入力である. NULL,ILSEでの音源分離を行う際,雑音方向にビームフォーマの死角を形成することができる.

出力

OUTPUT

: Map<int, ObjectRef> 型.分離音の音源IDと,分離音の1チャネル複素スペクトル
(Vector<complex<float> > 型) のペア.

パラメータ

LENGTH

: int 型. 分析フレーム長[samples].前段階における値(AudioStreamFromMic ,MultiFFT ノードなど) と一致している必要がある. デフォルト値は512[samples].

ADVANCE

: int 型. フレームのシフト長[samples].前段階における値(AudioStreamFromMic ,MultiFFT ノードなど) と一致している必要がある. デフォルト値は160[samples].

SAMPLING_RATE

: int 型. 入力波形のサンプリング周波数[Hz].デフォルト値は16000[Hz].

LOWER_BOUND_FREQUENCY

GHDSS 処理行う際に利用する最小周 波数値であり,これより下の周波数に対しては処理を行わず,出力スペクトルの値は0となる. 0以上サンプリング周波数値の半分までの範囲で指定する.

UPPER_BOUND_FREQUENCY

GHDSS 処理を行う際に利用する最大周 波数値であり,これより上の周波数に対しては処理を行わず,出力スペクトルの値は0となる. LOWER_BOUND_FREQUENCY $<$ UPPER_BOUND_FREQUENCY である必要がある.

TF_CONJ_FILENAME

: string 型. 伝達関数の記述されたバイナリファイル名を記す. ファイルフォーマットは 5.3.1 節を参照. BF_METHOD の全てにおいて有効.

SS_METHOD

: string 型. ブラインド音源分離のためのステップサイズの算出方法を選ぶ. BF_METHOD=GICA の時のみ有効で, GICA の場合は独立成分分析である ICA (Independent Component Analysis), のステップサイズを決定する. FIX, LC_MYU, ADAPTIVE から選択. FIXの場合は SS_MYU がステップサイズとなる. LC_MYUの場合はSS_MYU=LC_MYUとなる. ADAPTIVEは適応的ステップサイズとなる.

SS_MYU

: float 型. ブラインド音源分離のための分離行列更新時のステップサイズ. デフォルト値は 0.001. BF_METHOD=GICA の時のみ有効. SS_METHOD=FIX の場合は SS_MYU が固定ステップサイズの値となる. SS_METHOD=LC_MYU の場合は無視される. SS_METHOD=ADAPTIVE の場合は適応的に決定されたステップサイズに SS_MYU のゲインを乗算してステップサイズとする. この値とLC_MYUを 0 にし,Delay and Sum 型のビームフォーマの分離行列を INITW_FILENAME として渡し,BF_METHOD=GICAを選択することで, BeamForming は,Delay and Sum 型のビームフォーマと 等価な処理が可能となる.

LC_METHOD

: string 型. 幾何制約に基づくステップサイズの算出方法を選ぶ. BF_METHOD=LCMV, GJ, GICA の時のみ有効で, 全ての場合において幾何拘束に基づく音源分離である GC (Geometric Constraint) のステップサイズを決定する. FIX, ADAPTIVE から選択. FIXの場合は LC_MYU がステップサイズとなる. ADAPTIVEは適応的ステップサイズとなる.

LC_MYU

: float 型. 幾何制約に基づく分離行列更新時のステップサイズ. デフォルト値は 0.001. BF_METHOD=LCMV, GJ, GICA の時のみ有効. LC_METHOD=FIX の場合は LC_MYU が固定ステップサイズの値となる. LC_METHOD=ADAPTIVE の場合は適応的に決定されたステップサイズに LC_MYU のゲインを乗算してステップサイズとする. この値とSS_MYUを 0 にし,Delay and Sum 型のビームフォーマの分離行列を INITW_FILENAME として渡し,BF_METHOD=GICAのどれかを選択することで, BeamForming は,Delay and Sum 型のビームフォーマと 等価な処理が可能となる.

ALPHA

: float 型. フィルタ更新係数.BF_METHOD=MSNR の時のみ有効. デフォルト値は 0.99.

NL_FUNC

: string 型. BF_METHOD=GICA の時に,高次相関行列計算に使う関数を指定する. デフォルト値は TANH で,双曲線正接関数(tanh)を使用する. 現在は TANH のみがサポートされている.

SS_SCAL

: float 型. 1.0 がデフォルト. 高次相関行列計算における双曲線正接関数(tanh)の スケールファクタを指定する. 0より大きい正の実数を指定する.値が小さいほど非線形性が少なくなり 通常の相関行列計算に近づく.

REG_FACTOR

: int 型. 0.0001 がデフォルト. BF_METHOD=ML の時における, 既知雑音相関行列の対角成分調整パラメータ. ノードの詳細を参照.

BF_METHOD

: string 型. 音源分離手法を指定する.現在は以下の音源分離手法をサポートしている.

  • DS : 遅延和ビームフォーミング (Delay-and-Sum beamforming)[1]

  • WDS : 重み付き遅延和ビームフォーミング (Weighted Delay-and-Sum beamforming)[1]

  • NULL : NULL制御つきビームフォーミング (NULL beamforming)[1]

  • ILSE : 最小平均二乗誤差制御つきビームフォーミング (Iterative Least Squares with Enumeration)[2]

  • LCMV : 線形拘束付最小分散型 (Linearly Constrained Minimum Variance) ビームフォーミング[3]

  • GJ : Griffiths-Jim ビームフォーミング[4]

  • GICA : 幾何学的独立成分分析 (Geometrically constrained Independent Component Analysis)[7]   

ENABLE_DEBUG

: bool 型. デフォルトは falsetrueが与えられると, 分離状況が標準出力に出力される.

Table 6.38: BF_METHOD=DS,WDS,NULL,ILSE で利用するパラメータ

パラメータ名

デフォルト値

単位

説明

LENGTH

int 

512

[pt]

分析フレーム長

ADVANCE

int 

160

[pt]

フレームのシフト長

SAMPLING_RATE

int 

16000

[Hz]

サンプリング周波数

LOWER_BOUND_FREQUENCY

int 

0

[Hz]

分離処理で用いる周波数の最小値

UPPER_BOUND_FREQUENCY

int 

8000

[Hz]

分離処理で用いる周波数の最大値

TF_CONJ_FILENAME

string 

   

マイクロホンアレーの伝達関数を記したファイル名.

ENABLE_DEBUG

bool 

false

 

デバッグ出力の可否

Table 6.39: BF_METHOD=LCMV で利用するパラメータ

パラメータ名

デフォルト値

単位

説明

LENGTH

int 

512

[pt]

分析フレーム長

ADVANCE

int 

160

[pt]

フレームのシフト長

SAMPLING_RATE

int 

16000

[Hz]

サンプリング周波数

LOWER_BOUND_FREQUENCY

int 

0

[Hz]

分離処理で用いる周波数の最小値

UPPER_BOUND_FREQUENCY

int 

8000

[Hz]

分離処理で用いる周波数の最大値

TF_CONJ_FILENAME

string 

   

マイクロホンアレーの伝達関数を記したファイル名.

LCMV_LC_METHOD

string 

ADAPTIVE

 

幾何制約に基づくステップサイズの算出方法.

LCMV_LC_MYU

float 

0.001

 

幾何制約に基づく分離行列更新時のステップサイズ.

ENABLE_DEBUG

bool 

false

 

デバッグ出力の可否

Table 6.40: BF_METHOD=GJ で利用するパラメータ

パラメータ名

デフォルト値

単位

説明

LENGTH

int 

512

[pt]

分析フレーム長

ADVANCE

int 

160

[pt]

フレームのシフト長

SAMPLING_RATE

int 

16000

[Hz]

サンプリング周波数

LOWER_BOUND_FREQUENCY

int 

0

[Hz]

分離処理で用いる周波数の最小値

UPPER_BOUND_FREQUENCY

int 

8000

[Hz]

分離処理で用いる周波数の最大値

TF_CONJ_FILENAME

string 

   

マイクロホンアレーの伝達関数を記したファイル名.

GJ_LC_METHOD

string 

ADAPTIVE

 

幾何制約に基づくステップサイズの算出方法.

GJ_LC_MYU

float 

0.001

 

幾何制約に基づく分離行列更新時のステップサイズ.

ENABLE_DEBUG

bool 

false

 

デバッグ出力の可否

Table 6.41: BF_METHOD=GICA で利用するパラメータ

パラメータ名

デフォルト値

単位

説明

LENGTH

int 

512

[pt]

分析フレーム長

ADVANCE

int 

160

[pt]

フレームのシフト長

SAMPLING_RATE

int 

16000

[Hz]

サンプリング周波数

LOWER_BOUND_FREQUENCY

int 

0

[Hz]

分離処理で用いる周波数の最小値

UPPER_BOUND_FREQUENCY

int 

8000

[Hz]

分離処理で用いる周波数の最大値

TF_CONJ_FILENAME

string 

   

マイクロホンアレーの伝達関数を記したファイル名.

GICA_SS_METHOD

string 

ADAPTIVE

 

ブラインド音源分離のためのステップサイズの算出方法.

GICA_SS_MYU

float 

0.001

 

ブラインド音源分離のための分離行列更新時のステップサイズ.

GICA_LC_METHOD

string 

ADAPTIVE

 

幾何制約に基づくステップサイズの算出方法.

GICA_LC_MYU

float 

0.001

 

幾何制約に基づく分離行列更新時のステップサイズ.

SS_SCAL

float 

1.0

 

高次相関行列計算におけるスケールファクタ.

ENABLE_DEBUG

bool 

false

 

デバッグ出力の可否

6.3.2.5 ノードの詳細

技術的な詳細: 基本的に詳細は下記の参考文献を参照されたい.

音源分離概要: 音源分離問題で用いる記号を表 6.42 にまとめる. 演算はフレーム毎に周波数領域において行われるため, 各記号は周波数領域での,一般には複素数の値を表す. 音源分離は$K$個の周波数ビン($1 \leq k \leq K$)それぞれに対して演算が行われるが,本節ではそれを略記する. $N$, $M$, $f$をそれぞれ,音源数,マイク数,フレームインデックスとする.

Table 6.42: 変数の定義

変数

説明

$\boldsymbol {S}(f) = \left[S_1(f), \dots , S_ N(f)\right]^ T$

$f$フレーム目の音源の複素スペクトル

$\boldsymbol {X}(f) = \left[X_1(f), \dots , X_ M(f)\right]^ T$

マイクロホン観測複素スペクトルのベクトル.INPUT_FRAMES 入力に対応.

$\boldsymbol {N}(f) = \left[N_1(f), \dots , N_ M(f)\right]^ T$

加法性雑音

$\boldsymbol {H} = \left[ \boldsymbol {H}_1, \dots , \boldsymbol {H}_ N \right] \in \mathbb {C}^{M \times N}$

$1 \leq n \leq N$番目の音源から$1 \leq m \leq M$番目のマイクまでの伝達関数行列

$\boldsymbol {W}(f) = \left[ \boldsymbol {W}_1, \dots , \boldsymbol {W}_ M \right] \in \mathbb {C}^{N \times M}$

分離行列

$\boldsymbol {Y}(f) = \left[Y_1(f), \dots , Y_ N(f)\right]^ T$

分離音複素スペクトル

音のモデルは以下の一般的な線形モデルを扱う.

  $\displaystyle \boldsymbol {X}(f) $ $\displaystyle = $ $\displaystyle \boldsymbol {H}\boldsymbol {S}(f) + \boldsymbol {N}(f). \label{eq:beamforming_ observation} $   (38)

分離の目的は,

  $\displaystyle \boldsymbol {Y}(f) $ $\displaystyle = $ $\displaystyle \boldsymbol {W}(f)\boldsymbol {X}(f) \label{eq:Beamforming-separation} $   (39)

として,$\boldsymbol {Y}(f)$ が $\boldsymbol {S}(f)$ に近づくように,$\boldsymbol {W}(f)$ を推定することである. 最後に推定された$\boldsymbol {W}(f)$は,EXPORT_W=trueにし, EXPORT_W_FILENAME で指定した適当なファイル名で保存することができる.

TF_CONJ_FILENAME で指定する伝達関数ファイルには計測された$\boldsymbol {H}$を格納する. 今後はこれを実際の伝達関数と区別するため,$\hat{\boldsymbol {H}}$と表記する.

BF_METHOD=DS,WDS,NULL,ILSEの場合: INPUT_SOURCES 入力端子と INPUT_NOISE_SOURCES 入力端子から入ってくる 音源方向と雑音方向の情報を用いて,$\hat{\boldsymbol {H}}$を用いて$\boldsymbol {W}(f)$を決定する.

BF_METHOD=LCMV,GJの場合: 分離行列更新のための評価関数$J_{\textrm{L}}(\boldsymbol {W}(f))$は, INPUT_SOURCES 入力端子と INPUT_NOISE_SOURCES 入力端子から入ってくる音源方向と雑音方向の情報で定義される. 分離行列の更新は略記すると以下のようになる.

  $\displaystyle \boldsymbol {W}(f+1) $ $\displaystyle = $ $\displaystyle \boldsymbol {W}(f) + \mu \nabla _{\boldsymbol {W}}\boldsymbol {J}_{\textrm{L}}(\boldsymbol {W})(f)\label{eq:LCMV_ GJ_ J} $   (40)

ただし,$\nabla _{\boldsymbol {W}}\boldsymbol {J}_{\textrm{L}}(\boldsymbol {W}) = \frac{\partial \boldsymbol {J}_{\textrm{L}}(\boldsymbol {W})}{\partial \boldsymbol {W}}$である. この $\mu $ を LC_MYU で指定できる. LC_METHOD=ADAPTIVE に指定した場合は,

  $\displaystyle \mu $ $\displaystyle = $ $\displaystyle \left. \frac{\boldsymbol {J}_{\textrm{L}}(\boldsymbol {W})}{\left| \nabla _{\boldsymbol {W}}\boldsymbol {J}_{\textrm{L}}(\boldsymbol {W})\right|^2} \right|_{\boldsymbol {W} = \boldsymbol {W}(f)}\label{eq:LCMV_ GJ_ mu} $   (41)

と適応的にステップサイズが計算される.

BF_METHOD=GICAの場合: 分離行列更新のための評価関数$J_{\textrm{G}}(\boldsymbol {W}(f))$は, INPUT_SOURCES 入力端子と INPUT_NOISE_SOURCES 入力端子から入ってくる音源方向と雑音方向の情報とで以下で定義される.

  $\displaystyle J_{\textrm{G}}(\boldsymbol {W}(f)) $ $\displaystyle = $ $\displaystyle J_{\textrm{SS}}(\boldsymbol {W}(f)) + J_{\textrm{LC}}(\boldsymbol {W}(f)) \label{eq:GHDSS_ J} $   (42)

ただし,$J_{\textrm{SS}}(\boldsymbol {W}(f))$は,ブラインド音源分離に基づく音源分離手法のための評価関数, $J_{\textrm{LC}}(\boldsymbol {W}(f))$は幾何制約に基づく音源分離手法のための評価関数である. 分離行列の更新は略記すると以下のようになる.

  $\displaystyle \boldsymbol {W}(f+1) $ $\displaystyle = $ $\displaystyle \boldsymbol {W}(f) + \mu _{\textrm{SS}} \nabla _{\boldsymbol {W}}\boldsymbol {J}_{\textrm{SS}}(\boldsymbol {W})(f) + \mu _{\textrm{LC}} \nabla _{\boldsymbol {W}}\boldsymbol {J}_{\textrm{LC}}(\boldsymbol {W})(f) \label{eq:GHDSS_ W} $   (43)

ただし,$\nabla _{\boldsymbol {W}}$は,式()と同様に$\boldsymbol {W}$についての偏微分を表す. この$\mu _{\textrm{SS}}$と$\mu _{\textrm{LC}}$をそれぞれ,SS_MYU, LC_MYU で指定できる. SS_METHOD=ADAPTIVE に指定した場合は,

  $\displaystyle \mu _{\textrm{SS}} $ $\displaystyle = $ $\displaystyle \left. \frac{\boldsymbol {J}_{\textrm{SS}}(\boldsymbol {W})}{\left| \nabla _{\boldsymbol {W}}\boldsymbol {J}_{\textrm{SS}}(\boldsymbol {W})\right|^2} \right|_{\boldsymbol {W} = \boldsymbol {W}(f)}\label{eq:GHDSS_ SS_ mu} $   (44)

と, LC_METHOD=ADAPTIVE に指定した場合は,

  $\displaystyle \mu _{\textrm{LC}} $ $\displaystyle = $ $\displaystyle \left. \frac{\boldsymbol {J}_{\textrm{LC}}(\boldsymbol {W})}{\left| \nabla _{\boldsymbol {W}}\boldsymbol {J}_{\textrm{LC}}(\boldsymbol {W})\right|^2} \right|_{\boldsymbol {W} = \boldsymbol {W}(f)}\label{eq:GHDSS_ LC_ mu} $   (45)

と適応的にステップサイズが計算される.

トラブルシューティング: 基本的には GHDSS ノードのトラブルシューティングと同じ.

6.3.2.6 参考文献