Spektrální rozklad matice

Spektrální rozklad matice nebo rozklad matice na základě vlastních vektorů je zobrazením čtvercové matice jako součinu tří matic , kde je matice , jejíž sloupce jsou vlastními vektory matice , je diagonální matice s odpovídajícími vlastními čísly na hlavní diagonále je matice inverzní k matici .

V tomto tvaru mohou být reprezentovány pouze matice, které mají úplnou sadu vlastních vektorů, tj. sadu n lineárně nezávislých vlastních vektorů, kde n je řád matice .

Spektrální rozklad lze použít k nalezení vlastních čísel a vlastních vektorů matice, řešení systémů lineárních rovnic, invertování matice, nalezení determinantu matice a výpočtu analytických funkcí matic.

Teorie vlastních vektorů a vlastních čísel matice

Nenulový N - rozměrný vektor je vlastním vektorem čtvercové matice , pokud splňuje lineární rovnici

,

kde je skalár nazývaný vlastní hodnota matice a odpovídající vlastnímu vektoru . To znamená, že vlastní vektory jsou vektory, které lineární transformace pouze prodlužuje nebo zkracuje, a vlastní hodnota je faktor změny délky. Rovnice nahoře se nazývá rovnice vlastních čísel nebo problém vlastních čísel .

Na rovnici výše lze pohlížet jako na homogenní systém lineárních rovnic

,

kde je skalární parametr a je netriviální řešení homogenního systému lineárních rovnic. Netriviální řešení homogenní soustavy lineárních rovnic existují pouze tehdy, když je determinant matice soustavy roven nule, tzn.

Polynom se nazývá charakteristický polynom matice a rovnice výše se nazývá charakteristická rovnice . Charakteristická rovnice je polynomická rovnice N -tého řádu v proměnné . Tato rovnice má různé kořeny, kde . Množina řešení, tedy vlastní čísla, se nazývá spektrum matice [1] [2] [3] .

Rozložíme charakteristický polynom :

Přirozené číslo n i se nazývá algebraická násobnost vlastního čísla . Pokud je pole skalárů algebraicky uzavřené , součet algebraických násobností je N :

Pro každé vlastní číslo se řeší samostatná rovnice pro vlastní vektory:

Pro každou takovou rovnici existují lineárně nezávislá řešení. Lineární kombinace m i řešení jsou vlastní vektory spojené s vlastním číslem . Celé číslo m i se nazývá geometrická násobnost hodnoty . Algebraická násobnost a geometrická násobnost se nemusí shodovat, ale vždy . Celkový počet lineárně nezávislých vlastních vektorů lze vypočítat sečtením geometrických násobků

Vlastní vektory lze indexovat vlastními čísly pomocí dvojitého indexu, což by pak znamenalo j -tý vlastní vektor pro i -té vlastní číslo. Jednodušší indexování používá jeden index, kde .

Rozklad matic pomocí vlastních vektorů

Nechť je čtvercová matice s n lineárně nezávislými vlastními vektory q i ( ). Pak se můžete rozložit

,

kde je čtvercová matice, jejíž i -tý sloupec je vlastním vektorem matice , a je diagonální matice , jejíž diagonální prvky jsou odpovídající vlastní čísla, . Všimněte si, že tímto způsobem lze rozložit pouze diagonalizovatelné matice . Například matici posuvu nelze diagonalizovat.

Obvykle jsou vlastní vektory q i normalizovány , ale to není nutné, jako sloupce matice lze také použít nenormalizovanou množinu n vlastních vektorů v i .

Rozklad lze získat ze základní vlastnosti vlastních vektorů:

Příklad

Skutečná matice

lze redukovat na diagonální formu násobením nesingulární maticí

Pak

pro nějakou skutečnou diagonální matici .

Vynásobením obou stran rovnosti na levé straně dostaneme:

Výše uvedená rovnost se dá rozložit na dva systémy rovnic :

Vyjmutí vlastních hodnot x a y :

Dostaneme

což nám dává dvě vektorové rovnice:

Druhý systém může být reprezentován jedinou vektorovou rovnicí, včetně řešení pro dvě vlastní čísla:

,

kde představuje dvě vlastní čísla x a y a představuje vektory a .

Přesunutím na levou stranu a vyjmutím dostaneme

Protože matice není degenerovaná, je důležité, aby vektor nebyl nulový. Proto,

Pak

nám dává řešení vlastních čísel pro matici jako nebo a výsledná diagonální matice z rozkladu matice je pak .

Pokud řešení dosadíme zpět do soustavy rovnic výše, dostaneme

Řešením rovnic dostaneme

Potom je matice potřebná k faktorizaci matice

to je:

Inverze matice pomocí expanze vlastního vektoru

Nechť má matice spektrální rozklad a žádná z vlastních hodnot matice není rovna nule. V tomto případě je matice nesingulární a její inverzní matice je nalezena vzorcem

Pokud je matice symetrická matice , pak je zaručeno , že matice je ortogonální , tj . A protože matice je diagonální , lze snadno vypočítat její inverzní:

Praktická hodnota [4]

Pokud se na matici měřenou reálnými daty použije rozklad vlastních vektorů , pak může být inverzní matice hůře podmíněna , pokud jsou všechna vlastní čísla použita v nezměněné podobě. Jde o to, že když se vlastní čísla stanou relativně malými, příspěvek jejich inverzí k inverzní matici je velký. Tyto téměř nulové hodnoty nebo „šum“ měřicího systému budou mít nepřiměřený vliv a mohou interferovat s inverzním řešením.

Byly navrženy dvě možnosti zmírnění: vyřazení malých nebo nulových vlastních hodnot a kopírování nejmenší spolehlivé hodnoty do menších.

První možnost zmírnění je podobná řídké původní matici, ve které jsou odstraněny prvky, které jsou považovány za nevýznamné. Pokud se však zjistí, že se proces řešení blíží úrovni hluku, může vrácení zpět odstranit součásti, které ovlivňují požadované řešení.

Druhá možnost zmírnění zkopíruje vlastní hodnotu, takže menší hodnoty mají menší vliv na výsledek inverze, ale přesto přispívají k tomu, že lze nalézt řešení i blízko úrovni šumu.

Spolehlivou vlastní hodnotu lze nalézt za předpokladu, že vlastní hodnoty jsou extrémně blízko a nízká hodnota je dobrou reprezentací šumu měření (který je u většiny systémů považován za nízký).

Pokud jsou vlastní čísla seřazena podle velikosti, lze spolehlivou vlastní hodnotu nalézt minimalizací Laplaciánu seřazených vlastních čísel [5] :

,

kde jsou vlastní čísla označena s pro označení řazení (z angličtiny sorted). Umístění minima je nejmenší spolehlivá vlastní hodnota. V měřicích systémech je druhou odmocninou této spolehlivé vlastní hodnoty průměrný šum vzhledem k ostatním komponentám systému.

Funkční počet

Nechť má čtvercová matice rozklad . Potom zvýšení matice na přirozenou mocninu se vypočítá podle jednoduchého vzorce:

zde jsou produkty zrušeny v mezivýrazu . Operace zvýšení na přirozenou mocninu umožňuje definovat různé funkce nad maticemi, které jsou vyjádřeny ve formě mocninných řad. Nechť má funkce expanzi v mocninné řadě

Rozložení matice z hlediska vlastních čísel vám umožňuje rychle vypočítat mocninnou řadu z matice. Nechť f  ( x ) je dáno mocninnou řadou

V souladu s výše uvedeným vzorcem pro mocninu matice lze pomocí vzorce vypočítat mocninnou řadu pro matici

,

kde je funkce diagonální matice , kterou lze velmi snadno vypočítat:

V tomto případě jsou mimodiagonální prvky matice rovny nule. To znamená, že je také diagonální matice. Výsledkem je, že výpočet funkce z matice je redukován na jednoduchý výpočet funkce z každého z vlastních čísel.

Podobná technika také funguje obecněji v holomorfním funkčním počtu , s použitím vzorce

je možné počítat mocninné řady z matic, které obsahují záporné exponenty. Zde se opět používá, že .

Příklady

Druhá odmocnina matice:

Udělejme to na druhou a ujistěte se, že je to správné:

Exponent matice je definován podobným způsobem :

Dekompozice speciálních matic

Normální matice

Komplexní čtvercová matice je normální (což znamená , kde je hermitovský konjugát ), pouze tehdy, pokud ji lze rozložit

kde je unitární (což znamená, že ) a je diagonální matice [6] . Sloupce matice tvoří ortonormální základ a jsou vlastními vektory matice s odpovídajícími vlastními čísly .

Pokud je třída matic omezena na hermitovské matice ( ), pak má pouze reálné hodnoty. Pokud je třída matic omezena na unitární matice, pak všechny hodnoty leží na komplexní jednotkové kružnici, tedy .

Reálné symetrické matice

Pro jakoukoli skutečnou symetrickou matici jsou vlastní hodnoty skutečné a vlastní vektory lze vybrat jako reálné a ortonormální . Lze tedy rozložit skutečnou symetrickou matici

kde je ortogonální matice, jejíž sloupce jsou vlastními vektory matice , a je diagonální matice, jejíž hodnoty na diagonále se rovnají vlastním hodnotám matice [7] .

Užitečná fakta

Užitečná fakta o vlastních číslech

  • Součin vlastních čísel se rovná maticovému determinantu Všimněte si, že každé vlastní číslo je umocněno n i , algebraická násobnost.
  • Součet vlastních hodnot se rovná stopě matice Všimněte si, že každé vlastní číslo je násobeno n i , algebraickou násobností.
  • Pokud existují vlastní hodnoty matice a je invertibilní, pak jsou vlastní hodnoty matice jednoduše .
  • Pokud existují vlastní hodnoty matice , pak jsou vlastní hodnoty matice jednoduše stejné pro jakoukoli holomorfní funkci f .

Užitečná fakta o vlastních vektorech

  • Pokud je matice hermitovská a má plnou hodnost, lze základ vlastního vektoru zvolit tak, aby byl vzájemně ortogonální . Vlastní hodnoty jsou skutečné.
  • Vlastní vektory matice jsou stejné jako vlastní vektory matice .
  • Vlastní vektory jsou definovány až do konstantního faktoru. To je, jestliže , pak je také vlastní vektor pro jakékoli skalární c ≠ 0 . Zejména a (pro libovolné ) jsou také vlastní vektory.
  • V případě degenerovaných vlastních čísel (vlastní hodnota se objevuje více než jednou) mají vlastní vektory další stupeň volnosti rotace, tj. jakákoli lineární (ortonormální) kombinace vlastních vektorů se stejnou vlastní hodnotou je sama o sobě vlastním vektorem.

Užitečná fakta o rozkladu vlastního vektoru

  • Matici lze rozložit pomocí vlastních vektorů právě tehdy, když je počet lineárně nezávislých vlastních vektorů roven rozměru vlastního vektoru:
  • Pokud nemá více kořenů, to znamená, pokud , pak lze rozložit.
  • Z výroku „matici lze rozložit“ nevyplývá , že má inverzní.
  • Z výroku "matice má inverzní" nevyplývá, že ji lze rozložit pomocí vlastních vektorů. Protipříkladem je matrix , což je invertibilní matice defektů .

Užitečná fakta o inverzní matici

  • Matice je invertibilní tehdy a jen tehdy
  • If a , inverzní matice je dána rovností

Numerické výpočty

Numerický výpočet vlastních čísel

Předpokládejme, že je nutné vypočítat vlastní hodnoty dané matice. Pokud jsou rozměry matice malé, lze vlastní čísla vypočítat symbolicky pomocí charakteristického polynomu . To však u velkých matic často není možné, v takovém případě se používají numerické metody .

V praxi se vlastní hodnoty velkých matic nevypočítávají pomocí charakteristického polynomu. Výpočet polynomu se sám o sobě stává zdlouhavým a zdlouhavým a přesné (symbolické) kořeny polynomu vysokého stupně je obtížné vypočítat a vyjádřit - z Abelovy věty o neřešitelnosti rovnic v radikálech vyplývá, že kořeny polynomů vysokého stupně (5 a vyšší) nemohou být v obecném případě jsou prezentovány jako výrazy z kořenů n-tého stupně. Z tohoto důvodu obecné algoritmy pro hledání vlastních vektorů a vlastních hodnot fungují iterativně .

Existují iterativní numerické algoritmy pro aproximaci kořenů polynomů, jako je Newtonova metoda , ale obecně je nepraktické sestrojit charakteristický polynom a poté tyto metody aplikovat. Jedním z důvodů je, že malé chyby zaokrouhlení v koeficientech charakteristického polynomu mohou vést k velkým chybám ve vlastních číslech a vlastních vektorech – kořeny jsou extrémně špatně podmíněnou funkcí koeficientů [8] .

Jednoduchou a přesnou iterační metodou je mocninná metoda – vybere se náhodný vektor a vypočítá se posloupnost jednotkových vektorů

Tato posloupnost téměř vždy konverguje k vlastnímu vektoru odpovídajícímu největšímu vlastnímu číslu za předpokladu, že vektor odpovídající tomuto vlastnímu vektoru má nenulovou složku v bázi vlastních vektorů (a také za předpokladu, že existuje pouze jedno největší vlastní číslo). Tento jednoduchý algoritmus je užitečný v některých praktických aplikacích. Google jej například používá k výpočtu odkazového hodnocení dokumentů v jejich vyhledávači [9] . Výkonová metoda je také výchozím bodem pro mnoho dalších složitých algoritmů. Pokud například uložíte nejen poslední vektor sekvence, ale podíváte se do lineárního rozsahu všech vektorů sekvence, můžete získat lepší (rychlejší konvergující) aproximaci vlastního vektoru a tato myšlenka je základem Arnoldiho iterace [8] . Také důležitý QR algoritmus je založen na mírně upravené mocninné metodě [8] .

Numerický výpočet vlastních vektorů

Jakmile byly vypočteny vlastní hodnoty, lze vlastní vektory vypočítat řešením rovnice

pomocí Gaussovy eliminace nebo jakékoli jiné metody řešení maticové rovnice .

V praktických metodách hledání vlastních hodnot velkých matic se však vlastní vektory obvykle počítají jinými způsoby jako vedlejší produkt výpočtu vlastních hodnot. V mocninné metodě je například vlastní vektor obecně vypočítán před vlastním číslem (které se obvykle počítá podle Rayleighova vztahu pro vlastní vektor) [8] . V QR algoritmu pro hermitovskou matici (nebo jakoukoli normální matici ) jsou ortonormální vlastní vektory získány jako maticový součin z kroků algoritmu [8] . (U obecnějších matic algoritmus QR nejprve provede Schurův rozklad , ze kterého lze získat vlastní vektory zpětnou substitucí [10] ) Pro hermitovské matice je vyhledávací algoritmus rozděl a panuj efektivnější než Algoritmus QR, pokud jsou potřeba vlastní vektory i vlastní čísla [8] .

Další témata

Zobecněné vlastní prostory

Připomeňme, že geometrickou násobnost vlastního čísla lze popsat jako rozměr souvisejícího vlastního prostoru, jádra matice . Algebraickou multiplicitu lze také považovat za dimenzi - je to dimenze souvisejícího zobecněného vlastního prostoru (v 1. smyslu), který je jádrem matice pro jakékoli dostatečně velké k . To znamená, že je to prostor zobecněných vlastních vektorů (v prvním smyslu), kde zobecněný vlastní vektor je jakýkoli vektor, který se nakonec stane 0, pokud je aplikován dostatečně často. Jakýkoli vlastní vektor je zobecněný vlastní vektor, a proto je jakýkoli vlastní prostor obsažen v přidruženém zobecněném vlastním prostoru. To dává jednoduchý důkaz, že geometrická násobnost nikdy nepřekročí algebraickou násobnost.

Toto použití by nemělo být zaměňováno se zobecněným problémem vlastních čísel popsaným níže.

Konjugovat vlastní vektor

Konjugovaný vlastní vektor je vektor, který po lineární transformaci přechází (až do násobení skalárem) do svého konjugátu. Skalár se pak nazývá konjugovaná vlastní hodnota lineární transformace. Konjugované vlastní vektory a vlastní hodnoty představují v podstatě stejné informace jako běžné vlastní vektory a vlastní čísla, ale vznikají při použití jiných souřadnicových systémů. Odpovídající rovnost bude

Například v teorii koherentního elektromagnetického rozptylu představuje lineární transformace akci prováděnou rozptylujícím se objektem a vlastní vektory představují stavy polarizace elektromagnetické vlny. V optice je souřadnicový systém definován z vlnového hlediska, známého jako Forward Scattering Alignment ( angl. Forward Scattering Alignment , FSA), a generuje běžné rovnice vlastních čísel, zatímco v radaru je souřadnicový systém definován z straně radaru, je známá jako zarovnání zpětného rozptylu ( Eng. Back Scattering Alignment , BSA) a generuje rovnice pro konjugované vlastní vektory.   

Zobecněný problém hledání vlastních čísel

Zobecněný problém hledání vlastních hodnot (v druhém smyslu) je problém najít vektor , který splňuje rovnost

kde a jsou matice. Pokud splňuje tuto rovnost pro některé , pak nazýváme zobecněný vlastní vektor matic a (ve druhém smyslu) a nazývá se zobecněná vlastní hodnota matic a (ve druhém smyslu), odpovídající zobecněnému vlastnímu vektoru . Možné hodnoty musí splňovat následující rovnost

Pokud je možné najít lineárně nezávislé vektory takové, že pro libovolné , , definujeme matice a následovně

Pak platí následující rovnost

Důkaz

A protože je reverzibilní, vynásobíme touto inverzí a dostaneme požadovaný výsledek.

Množina matic tvaru , kde je komplexní číslo, se nazývá svazek . Termín svazek matic může také označovat dvojici matic [11] .

Pokud je matice invertibilní, lze původní problém přepsat jako

což je standardní problém vlastních čísel. Ve většině situací je však nežádoucí provádět tuto inverzi, ale řešit zobecněný problém vlastních čísel. To je zvláště důležité, pokud jsou matice a hermitovské , protože v tomto případě obvykle hermitovské obecně nejsou a důležité vlastnosti řešení se již neobjevují.

Pokud jsou obě matice a matice symetrické a hermitovské a jsou také kladně definitní , vlastní čísla jsou skutečná a vlastní vektory a s různými vlastními hodnotami jsou -ortogonální ( ) [12] . V tomto případě mohou být vlastní vektory zvoleny tak, aby výše definovaná matice splňovala podmínky

nebo ,

a existuje základ zobecněných vlastních vektorů (nejedná se o matici defektů ) [11] . Tento případ se někdy nazývá hermitovský definovaný svazek [11] .

Viz také

Poznámky

  1. Golub, Van Loan, 1996 , s. 310.
  2. Kreyszig, 1972 , str. 273.
  3. Nering, 1970 , str. 270.
  4. Hayde, Twede, 2002 , str. 355.
  5. Hayde, Twede, 2002 , str. 299.
  6. Horn a Johnson, 1985 , s. 133 Věta 2.5.3.
  7. Horn a Johnson, 1985 , s. 136 Věta 2.5.3 Důsledek 2.5.11.
  8. 1 2 3 4 5 6 Trefethen, Bau, 1997 .
  9. Ipsen, Wills, 2005 .
  10. Quarteroni, Sacco, Saleri, 2000 , str. patnáct.
  11. 1 2 3 Bai, Demmel, 2000 .
  12. Parlett, 1998 , s. 345.

Literatura

  • Hayde AF, Twede DR Pozorování vztahu mezi vlastními čísly, šumem přístroje a výkonem detekce // Zobrazovací spektrometrie VIII. / Sylvia S. Shen. - 2002. - T. 4816 . - doi : 10.1117/12.453777 . - .
  • Twede DR, Hayden AF Zpřesnění a zobecnění extenzní metody inverze kovarianční matice regularizací // Imaging Spectrometry IX .. - 2004. - T. 5159 . - doi : 10.1117/12.506993 . - .
  • Lloyd N. Trefethen, David Bau. Numerická lineární algebra. - "SIAM, 1997. - ISBN 978-0-89871-361-9 .
  • Alfio Quarteroni, Riccardo Sacco, Fausto Saleri. sekce 5.8.2 // Numerická matematika . - "Springer, 2000. - ISBN 978-0-387-98959-4 .
  • Beresford N. Parlett. Problém symetrických vlastních čísel . - Reprint.. - Philadelphia: "Společnost pro průmyslovou a aplikovanou matematiku, 1998. - ISBN 978-0-89871-402-9 . - doi : 10.1137/1.9781611971163 .
    • Přeložil B. Parlett. Problém symetrických vlastních čísel. - Moskva: Mir, 1983.
  • Ilse Ipsen, Rebecca M. Wills. Analýza a výpočet hodnocení Google PageRank // 7. mezinárodní symposium IMACS o iterativních metodách ve vědeckém počítání, Fields Institute, Toronto, Kanada, 5.–8. května 2005 . — 2005.
  • Generalized Hermitian Eigenvalue Problems // Templates for the Solution of Algebraic Eigenvalue Problems: A Practical Guide / Z. Bai, J. Demmel, J. Dongarra, A. Ruhe, H. Van Der Vorst. - Philadelphia: SIAM, 2000. - ISBN 978-0-89871-471-5 .
  • Joel N. Franklin. Teorie matice . Doverské publikace. — ISBN 978-0-486-41179-8 .
  • Gene H. Golub, Charles F. Van Loan. Maticové výpočty. — 3. - Baltimore: Johns Hopkins University Press , 1996. - ISBN 978-0-8018-5414-9 .
    • Přeložili J. Golub, C. Van Lone. Maticové výpočty. - Moskva: Mir, 1999. - ISBN 5-03-002406-9 .
  • Roger A. Horn, Charles R. Johnson. maticová analýza. - Cambridge University Press, 1985. - ISBN 978-0-521-38632-6 .
    • Překlad Horn R., Johnson C. Maticová analýza. - "Mir", 1989. - ISBN 978-5-458-26504-1 (YOYO Media).
  • Roger A. Horn, Charles R. Johnson. Témata v maticové analýze . - Cambridge University Press, 1991. - ISBN 978-0-521-46713-1 .
  • Erwin Kreyszig. Pokročilá inženýrská matematika . — 3. - New York: Wiley , 1972. - ISBN 978-0-471-50728-4 .
  • Evar D. Nering. Lineární algebra a teorie matic. — 2. — New York: Wiley , 1970.
  • Strang G. Úvod do lineární algebry. — 3. - Wellesley-Cambridge Press, 1998. - ISBN 978-0-9614088-5-5 .

Odkazy