Rayleighův vztah

V matematice je pro danou komplexní hermitovskou matici a nenulový vektor Rayleighův vztah [1] definován následovně [2] [3] : $M$ $X$ $R(M,x)$

R(M,x)={x^{{*}}Mx \over x^{{*}}x}.

Pro skutečné matice je podmínka pro hermitovskou matici redukována na její symetrii a hermitovská konjugace vektorů se změní na běžnou transpozici . Všimněte si, že pro jakoukoli skutečnou konstantu . Připomeňme, že hermitovská (stejně jako symetrická reálná) matice má skutečné vlastní hodnoty . Lze ukázat, že pro matici dosahuje Rayleighův poměr své minimální hodnoty (nejmenší vlastní hodnota matice ), když je roven (odpovídající vlastní vektor). Podobným způsobem lze ukázat, že a . Rayleighův vztah se používá v Courant-Fisherově minimaxové větě k získání všech hodnot vlastních hodnot [4] . Používá se také v algoritmech pro hledání vlastních hodnot matice k získání aproximace vlastních hodnot z aproximace vlastních vektorů. Relace je totiž základem pro iterace s Rayleighovým vztahem [5] [6] . $x^{{*}}$ $X'$ $R(M,cx)=R(M,x)$ $c\neq 0$ $\lambda _{\min }$ $M$ $X$ $v_{\min }$ $R(M,x)\leq \lambda _{\max }$ $R(M,v_{\max })=\lambda _{\max }$

Množina hodnot Rayleighova vztahu se nazývá číselný obraz matice [7] [8] .

Speciální případ kovariančních matic

Kovarianční matici M pro vícerozměrný statistický vzorek A (matici pozorování) lze reprezentovat jako součin A' A [9] [10] . Jako symetrická reálná matice má M nezáporná vlastní čísla a ortogonální (nebo redukovatelné na ortogonální) vlastní vektory.

Za prvé, že vlastní hodnoty nejsou záporné: $\lambda _{i}$

Mv_{i}=A'Av_{i}=\lambda _{i}v_{i}

\Rightarrow v_{i}'A'Av_{i}=v_{i}'\lambda _{i}v_{i}

\Rightarrow \left\|Av_{i}\right\|^{2}=\lambda _{i}\left\|v_{i}\right\|^{2}

\Rightarrow \lambda _{i}={\frac {\left\|Av_{i}\right\|^{2}}{\left\|v_{i}\right\|^{2}}}\ geq 0.

A za druhé, že vlastní vektory jsou navzájem ortogonální: $v_{i}$

Mv_{i}=\lambda _{i}v_{i}

\Rightarrow v_{j}'Mv_{i}=\lambda _{i}v_{j}'v_{i}

\Rightarrow (Mv_{j})'v_{i}=\lambda _{i}v_{j}'v_{i}

\Rightarrow \lambda _{j}v_{j}'v_{i}=\lambda _{i}v_{j}'v_{i}

\Rightarrow (\lambda _{j}-\lambda _{i})v_{j}'v_{i}=0

\Rightarrow v_{j}'v_{i}=0

(pokud se vlastní hodnoty liší - v případě stejných hodnot můžete najít ortogonální základ).

Ukažme nyní, že Rayleighův poměr nabývá maximální hodnoty na vektoru odpovídajícím největšímu vlastnímu číslu. Rozšiřme libovolný vektor z hlediska báze vlastních vektorů v i : $X$

x=\součet _{{i=1}}^{n}\alpha _{i}v_{i}

, kde je průmět x na

\alpha _{i}={\frac {x'v_{i}}{v_{i}'v_{i}}}={\frac {\langle x,v_{i}\rangle }{\left\ |v_{i}\right\|^{2}}}

v_{i}

Tedy rovnost

R(M,x)={\frac {x'A'Ax}{x'x}}

lze přepsat do následující podoby:

R(M,x)={\frac {(\součet _{{j=1}}^{n}\alpha _{j}v_{j})'A'A(\součet _{{i=1 }}^{n}\alpha _{i}v_{i})}{(\sum _{{j=1}}^{n}\alpha _{j}v_{j})'(\sum _ {{i=1}}^{n}\alpha _{i}v_{i})}}

Protože jsou vlastní vektory ortogonální, stane se poslední rovností

R(M,x)={\frac {\součet _{{i=1}}^{n}\alpha _{i}^{2}\lambda _{i}}{\součet _{{i= 1}}^{n}\alpha _{i}^{2}}}=\součet _{{i=1}}^{n}\lambda _{i}{\frac {(x'v_{i) })^{2}}{(x'x)(v_{i}'v_{i})}}

Poslední rovnost ukazuje, že Rayleighův poměr je součtem čtverců cosinus úhlů mezi vektorem a každým z vlastních vektorů , vynásobených odpovídající vlastní hodnotou. $X$ $v_{i}$

Jestliže vektor maximalizuje , pak všechny vektory získané z násobení skalárem ( for ) také maximalizují R . Problém lze tedy zredukovat na nalezení maxima za podmínky . $X$ $R(M,x)$ $X$ $kx$ $k\neq 0$ $\sum _{{i=1}}^{n}\alpha _{i}^{2}\lambda _{i}$ $\sum _{{i=1}}^{n}\alpha _{i}^{2}=1$

Protože všechna vlastní čísla jsou nezáporná, problém se redukuje na nalezení maxima konvexní funkce a lze ukázat, že je dosaženo v a (vlastní hodnoty jsou seřazeny v sestupném pořadí). $\alpha _{1}=1$ $\forall i>1,\alpha _{i}=0$

Rayleighův poměr tedy dosáhne svého maxima na vlastním vektoru odpovídajícím maximální vlastní hodnotě.

Stejný výsledek s použitím Lagrangeových multiplikátorů

Stejný výsledek lze získat pomocí Lagrangeových multiplikátorů . Problém je najít kritické body funkce

R(M,x)=x^{T}Mx

při konstantní hodnotě To znamená, že potřebujete najít kritické body funkce $\|x\|^{2}=x^{T}x=1.$

{\mathcal {L}}(x)=x^{T}Mx-\lambda (x^{T}x-1),

kde je Lagrangeův multiplikátor. Pro stacionární body funkce rovnost $\lambda$ ${\mathcal {L}} (x)$

{\frac {d{\mathcal {L}}(x)}{dx}}=0

\proto 2x^{T}M^{T}-2\lambda x^{T}=0

\proto Mx=\lambda x

a $R(M,x)={\frac {x^{T}Mx}{x^{T}x}}=\lambda {\frac {x^{T}x}{x^{T}x}} =\lambda .$

Vlastní vektory matice M jsou tedy kritickými body Rayleighova vztahu a jejich vlastní hodnoty jsou odpovídající stacionární hodnoty. $x_{1}\ldots x_{n}$ $\lambda _{1}\ldots \lambda _{n}$

Tato vlastnost je základem analýzy hlavních komponent a kanonické korelace .

Použití v teorii Sturm-Liouville

Sturm-Liouvilleova teorie spočívá ve studiu lineárního operátoru

L(y)={\frac {1}{w(x)}}\left(-{\frac {d}{dx}}\left[p(x){\frac {dy}{dx}}\ vpravo]+q(x)y\vpravo)

s tečkovým produktem

\langle {y_{1},y_{2}}\rangle =\int _{a}^{b}w(x)y_{1}(x)y_{2}(x)\,dx

kde funkce splňují některé specifické okrajové podmínky v bodech aab . Rayleighův vztah zde nabývá formy

{\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}={\frac {\int _{a}^{b}{y(x)\left(- {\frac {d}{dx}}\left[p(x){\frac {dy}{dx}}\right]+q(x)y(x)\right)}dx}{\int _{ a}^{b}{w(x)y(x)^{2}}dx}}.

Někdy je tento poměr reprezentován v ekvivalentní podobě pomocí integrace po částech [11] :

{\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}={\frac {\int _{a}^{b}{y(x)\left(- {\frac {d}{dx}}\left[p(x)y'(x)\right]\right)}dx+\int _{a}^{b}{q(x)y(x)^ {2}}\,dx}{\int _{a}^{b}{w(x)y(x)^{2}}\,dx}}

={\frac {-y(x)\left[p(x)y'(x)\right]|_{a}^{b}+\int _{a}^{b}{y'(x )\left[p(x)y'(x)\right]}\,dx+\int _{a}^{b}{q(x)y(x)^{2}}\,dx}{\ int _{a}^{b}{w(x)y(x)^{2}}\,dx}}

={\frac {-p(x)y(x)y'(x)|_{a}^{b}+\int _{a}^{b}\left[p(x)y'(x )^{2}+q(x)y(x)^{2}\right]\,dx}{\int _{a}^{b}{w(x)y(x)^{2)) \,dx}}.

Generalizace

Pro jakýkoli pár reálných symetrických kladně určitých matic a nenulový vektor je zobecněný Rayleighův vztah definován jako $(A,B)$ $X$

R(A,B;x):={\frac {x^{T}Ax}{x^{T}Bx}}.

Zobecněný Rayleighův vztah lze transformací redukovat na Rayleighův vztah , kde je rozklad Choleského matice . $R(D,Cx)$ $D={C^{*}}^{{-1}}AC^{{-1}}$ $C$ $B$

Viz také

Numerický obraz matice

Poznámky

↑ také známý jako vztah Rayleigh-Ritz , pojmenovaný po Walteru Ritzovi a lordu Rayleighovi .
↑ Horn, R. A. a C. A. Johnson. 1985. Maticová analýza . Cambridge University Press. str. 176–180.
↑ Parlet BN The symmetric eigenvalue problem , SIAM, Classics in Applied Mathematics, 1998
↑ Beckenbach, 1965 , §26 Fischerova věta o minimaxu.
↑ Parlett, 1983 , §4.6 Iterace s Rayleighovým vztahem, str. 87).
↑ Verbitsky, 2000 , §4.3 Reverzní iterace, str. 115.
↑ Gevorgyan .
↑ Prasolov, 2008 , 2.2 Jádro a obraz operátora. Faktorový prostor., str. 114.
↑ Korshunov, 2008 , Úvod.
↑ ACTA, 2005 .
↑ Haberman, 1987 .

Literatura

B. Parlett. Problém symetrických vlastních čísel. Numerické metody. — 1983.
E. Beckenbbach, R. Bellman. Nerovnosti. - Moskva "Mir", 1965.
Richard Haberman. Elementární aplikované parciální diferenciální rovnice. — Prentice Hall, Englewood, New Jersey, 1987.
V. M. Veržbitskij. Numerické metody (lineární algebra a nelineární rovnice). - Moskva "Vysoká škola", 2000.
V.V. Prasolov. Úlohy a věty lineární algebry. - Moskva, 2008.
Gevorgyan LZ Některé geometrické charakteristiky numerického obrazu operátora . – Státní inženýrská univerzita v Arménii. Archivováno z originálu 31. srpna 2006.
Zdzisław Burda, Jerzy Jurkiewicz, Bartłomiej Wacław. Hustota vlastních čísel empirické kovarianční matice pro korelované vzorky // Acta physica polonica B. - 2005. - Vol. 36 , no. 9 . - S. 2642 .
Korshunov Yu.M. Získání vícerozměrného statistického vzorku s danými korelačními vlastnostmi.Vestnik RGRTU. - 2008. - Vydání. 23 .
Shi Yu, Léon-Charles Tranchevent, Bart Moor, Yves Moreau. Ch. 2 // Fúze dat na bázi jádra pro strojové učení: Metody a aplikace v bioinformatice a dolování textu . — Springer, 2011.