スポンサーリンク

擬似逆行列・一般化逆行列は,画像処理や計測工学・ロボット工学で応用される,最小二乗法による誤差最小の逆行列

数学の解説コラムの目次へ


「一般化逆行列」とか,「擬似逆行列」という行列の工学上のツールがある。

この行列を理解するために必要な情報をまとめた。

(1)「一般化逆行列」(擬似逆行列)とは何か?

これは,次元があわなくてうまく逆行列を計算できないときに,
両辺の誤差が最小になるよう最小二乗法を使うことで,
近似的な逆行列を求める
演算のこと。

一般逆行列・ムーア・ペンローズ逆行列 - 大人になってからの再学習
http://d.hatena.ne.jp/Zellij/20120811/p1

  • ムーア・ペンローズ逆行列A^{+}を使って、求めた解は、Aが縦長の場合は||A {¥bf x} - {¥bf b}||^2を最小にし、Aが横長の場合はノルム||{¥bf x}||を最小にするという性質がある。
  • つまり、この意味において、もっとも誤差が小さい解を求められる、ということになる。
  • ムーア・ペンローズ逆行列があまりに広く使われているので、 単に「一般逆行列」と書いて「ムーア・ペンローズ逆行列」を指すこともある。 また、ムーア・ペンローズ逆行列は擬逆行列(疑逆行列)と呼ばれることもある。


疑似逆行列(一般逆行列) | イメージングソリューション
http://imagingsolution.net/math/pseud...

  • ExcelではXとYのデータのグラフを書くと、近似曲線の追加という機能を使えば簡単に求まります。 でも、この近似式をエクセルの計算を使って求めたいな〜という事もあるかと思います。
  • 疑似逆行列(一般逆行列). そこで、疑似逆行列を使って、データを二次関数で近似する


疑似逆行列法 - SICE オンライン・ハンドブック
http://www.sice.jp/handbook/%E7%96%91...

  • 非正則な行列が表現する線形変換は縮退的である。縮退的ならば、逆行列すなわち出力から入力を求める線形変換は本来定まらない。
  • しかし、縮退しない入力成分のみに限定すれば、出力から復元することが可能である。このような線形変換の一つが疑似逆変換、対応する行列を疑似逆行列という
  • 疑似逆行列をさらに一般化した概念に一般化逆行列(generalized inverse)がある


[Q&A] 正方行列の逆行列と一般化逆行列の違い 【OKWave】
http://okwave.jp/qa/q3979862.html

  • 残差ノルム最小条件、  |b−Ax|^2=最小 をたいてい使います。これによって定まる x は一意です。具体的には、   A^T・Ax=A^T・b と変形します(^Tは転置です)

(2)どのような計算により,二乗誤差を最小化するのか? →特異値分解

一般化逆行列が満たす性質として「二乗誤差が最小」というのがあるわけだが,具体的にどうやって計算するのか。

それが,特異値分解だ。

特異値分解は,固有値を求める操作を一般化したものであり,一種の最小自乗法。

擬似逆行列
http://www.cg.info.hiroshima-cu.ac.jp...

  • 特異値分解(SVD)による擬似逆行列の計算


擬似逆行列の作り方  そして、ガウスの最小拘束の原理
https://staff.aist.go.jp/toru-nakata/...

  • 行列の特異値分解は, 最小自乗法がらみのシミュレーションで中核的な計算になる。この手の問題は実社会でも頻繁に出てくる。

(3)「特異値分解」と「スペクトル分解」

そして,特異値分解は「スペクトル分解」の一種だ。

「正方行列に対する対角化」を一般化するとジョルダン標準形になり,
さらにそれを一般化するとスペクトル分解になる:

特異値分解 - Wikipedia
http://ja.wikipedia.org/wiki/%E7%89%B...

  • 行列分解の一手法である。信号処理や統計学の分野で用いられる。
  • 特異値分解は、行列に対するスペクトル分解定理の一般化とも考えられ、正方行列に限らず任意の形の行列を分解できる。


chapter7.pdf
http://www.chaos.cs.tsukuba.ac.jp/ILA...

  • 対角化およびスペクトル分解を一般化したジョルダン分解は,正方行列にのみ定義された.
  • 非正方行列でさらに一般化された分解が 特異値分解 (singular value decomposition) である


「スペクトル分解」は,関数解析のツールで,
行列に適用した場合は固有値を求める対角化を含む。

スペクトル分解は微分方程式を研究するために役立つし,
量子力学の演算子を考える際にも使う。

スペクトル分解とは (1) - ぼんさい塾
http://blog.goo.ne.jp/bonsai-juku/e/3...

  • 作用素に依存しないヒルベルト空間の固有ベクトル(高々可算個でもよい)を順に並べて考えるのが本来のスペクトル分解であって,主成分分析等で行われるような主軸変換までスペクトル分解と呼ぶのは好ましくない --- 混乱を招くだけ


スペクトル分解 (関数解析学) - Wikipedia
http://ja.wikipedia.org/wiki/%E3%82%B...

  • この分解は微分方程式の研究において意義深いものであり、理学や工学の多分野に亘って応用されている
  • 量子力学における有名な例では、励起状態にある水素原子によって放射される光の離散スペクトルと連続帯の説明に、この概念が用いられる


spectol_decomp.pdf
http://japla.sakura.ne.jp/workshop/wo...

  • 行列を射影の一次結合で表すことをスペクトル分解という

(4)「一般化逆行列」は,どういう場合に現れるか?

「入出力で次元の数が合わないような工学上の問題」で頻出。

たとえば,ロボット工学や多数のセンサを使うシステムを扱う場合,
線形の入力を線形の出力に変換するので,
この線形関係式を扱うための特異値分解が必要になる。

特異値分解 - SICE オンライン・ハンドブック
http://www.sice.jp/handbook/%E7%89%B9...

  • ロボットの機構・センサでは、多次元ベクトルを多次元ベクトルに変換する線形関係式が重要な基礎式となる


また,統計学において
主成分分析は一種の特異値分解である:

特異値分解・固有値分解系の分析 - iAnalysis 〜おとうさんの解析日記〜
http://d.hatena.ne.jp/isseing333/2011...

  • 主成分分析とか因子分析とかの手法は特異値分解系でまとめられます


特異値分解
http://docs.oracle.com/cd/E49329_01/d...

  • 特異値分解(SVD)と、それに密接に関連する主成分分析(PCA)は、適用範囲の広い確立した特徴抽出方法

数学の解説コラムの目次へ