補足 - 適応フィルタ
ノイズキャンセラのように何か不要信号を除去したいとき、与えられた入力と出力を模擬するFIRフィルタ(適応フィルタ)が使われる。(どう使うのかはよく理解できなったが）
このFIRフィルタの重みwを入力xaと出力xbから求めることは、連立方程式を最小2乗法で解くことである。
例えば3タップのFIRフィルタ
をakj = xak+2-j bk = xbk+2とおいて行列で書くと
すなわちAw=bという、変数wより方程式が多い連立方程式になっている。
◇
実際には、
・最小2乗法をそのままやるのは計算量が大きい
・模擬する入出力も定常ではなくゆっくりと変化する
という理由から、最適解に近づくようにwを少しずつ更新する方法を使うようである。
ちなみに紛らわしい名前がついていて、最急降下法のLeast Mean Square(LMS)や、Recursive Least Square(RLS)という。