Lineaire Algebra 2. Jan Brandts

Transcriptie

1 Lineaire Algebra 2 Jan Brandts april 27

2 2

3 Inhoudsopgave. Inleiding en opzet Canonieke vormen 7. Lineaire transformaties en gelijkvormige matrices Gelijkvormigheid en gelijkvormigheidsklassen Elementaire gelijkvormigheidstransformaties Gelijkvormige matrices horen bij dezelfde lineaire transformatie Voorbeeld: de gelijkvormigheidsklassen van de vectorruimte F Triangulatiestellingen voor lineaire transformaties Geschiedenis en motivatie Triangulatie van 2 2 matrices Blokvermenigvuldiging en triangulatie van 3 3 matrices Inductiebewijs van de triangulatiestelling van Jacobi Invariante deelruimtes en complete vlaggen De triangulatiestelling van Schur Toepassing: Schur decompositie en Google s PageRank Spectraalstellingen voor normale, Hermietse, en unitaire matrices De Jordannormaalvorm van een lineaire transformatie Gerichte gelijkvormigheidstransformaties met Eij n (h) Gerichte gelijkvormigheidstransformaties met Π kl De klasse van nilpotente Jordanvormen Gelijkvormigheidstransformaties van stricte bovendriehoeksmatrices Jordanvormen en de Jordannormaalvorm van een matrix Opgaven Dualiteit De duale vectorruimte Voorbeelden en eerste oriëntatie De duale basis β van V behorende bij een basis β van V De dubbelduale vectorruimte V en het natuurlijke isomorfisme Het isomorfisme van Riesz De duale L van een lineaire afbeelding L De annihilator Quotiëntruimtes Opgaven

4 4 INHOUDSOPGAVE 3 Niet-negatieve lineaire algebra Perron-Frobeniustheorie De Neumannrij en de Neumannreeks Perron-Frobeniustheorie voor positieve matrices Von Mises-iteratie Een analytische aanpak van Perron-Frobeniustheorie Niet-negatieve matrices als limiet van positieve matrices Reducibele en irreducibele niet-negatieve matrices Perron-Frobeniustheorie voor irreducibele niet-negatieve matrices Dubbelstochastische matrices en de permanent De stelling van Birkhoff-Van Neumann De permanent van een matrix De permanent versus de determinant De determinantale complexiteit van de permanent Het algoritme van Ryser voor het berekenen van de permanent Een formule van Glynn

5 .. INLEIDING EN OPZET 5. Inleiding en opzet Deze tekst is bedoeld voor wiskundestudenten die reeds een gedegen eerste kennismaking hebben gehad met het vakgebied van de lineaire algebra en bekend zijn met vectorruimtes over een lichaam K, zoals ruimtes van matrices K n k, polynomen K[X n, oneindige rijtjes K N, en nog algemener functies K K. We veronderstellen daarom kennis van begrippen als basis, coördinaten, dimensie, lineaire transformaties en hun matrices, determinanten, eigenwaarden en eigenvectoren, evenals van de axiomatische opbouw van inproductruimtes over R en C. Wiskundestudenten aan de Universiteit van Amsterdam bezitten deze kennis nadat ze in hun eerste semester het 6 EC vak Lineaire Algebra hebben gevolgd (en gehaald), gegeven uit het gelijknamige boek van Paul Igodt en Wim Veys (Universtaire Pers Leuven, tweede editie). Het doel van deze tekst is primair om te voorkomen dat de in het eerste semester opgedane kennis te snel verwatert doordat er niet direct mee wordt doorgewerkt, en studenten bij logische vervolgvakken zoals Representatietheorie en Numerieke Lineaire Algebra, die vaak meer dan een jaar later pas gevolgd worden, niet thuis geven. Natuurlijk bestaat de inhoud uit nieuwe onderwerpen, die doorgaans te geavanceerd zijn (misschien ook te exotisch) om in een eerste kennismaking op te nemen. Over deze onderwerpen nu meer. In het eerste hoofdstuk over canonieke vormen herhalen we dat matrices in K n n gelijkvormig zijn als en alleen als ze dezelfde lineaire afbeelding voorstellen. Als voorbeeld bepalen we alle gelijkvormigheidsklassen van de eindige matrixruimte F Vervolgens bewijzen we de stelling van C. Jacobi, die zegt dat als K algebraïsch afgesloten is, iedere gelijkvormigheidsklasse van K n n een bovendriehoeksmatrix bevat. We scherpen dit resultaat aan tot de observatie van I. Schur dat er zelfs een orthonormale basis bestaat ten opzichte waarvan een gegeven lineaire transformatie bovendriehoeksvorm aanneemt. Weer als speciaal geval van het laatste bewijzen we de spectraalstellingen voor zelfgeadjungeerde, voor normale, en voor unitaire transformaties van een eindigdimensionale vectorruimte V over K. Tot slot van het eerste hoofdstuk geven we een ongebruikelijk bewijs van de existentie en uniciteit van de Jordannormaalvorm van een bovendriehoeksmatrix R, gebaseerd op R. Brualdi s The Jordan Canonical Form: An Old Proof. The American Mathematical Monthly 49(3) uit 987. Voordeel van dit bewijs is, dat het én volledig is, én zeer elementair: er wordt een algoritme gegeven dat slechts bestaat uit het opeenvolgend toepassen van elementaire gelijkvormigheidstransformaties. Dit zijn transformaties van de vorm R E RE waarbij E een elementaire rij-operatie is, die studenten al kennen uit de context van het oplossen van stelsels vergelijkingen. Zo wordt duidelijk hoe een gegeven basis stapsgewijs aangepast kan worden tot het een Jordanbasis is, waarbij iedere stap ten hoogste twee basisvectoren verandert. Dit kan vervolgens zelfs als programmeer-opgave aan de studenten worden voorgelegd. Keerzijde van de gevolgde aanpak is dat concepten als gegeneraliseerde eigenvectoren, minimiumpolynomen, en Jordanketens onderbelicht blijven. Bestaande bewijzen van de existentie en uniciteit van de Jordannormaalvorm op grond van deze geavanceerdere concepten zijn echter veel minder triviaal, beginnen vaak met een willekeurige matrix A in plaats van een bovendriehoeksmatrix, en leiden vaak ook af van de uiteindelijke eenvoud van de berekening zodra een bovendriehoeksvorm bereikt is. Het achteraf introduceren van de geavanceerdere concepten nadat existentie en uniciteit al bewezen is, lijkt daarom een goede oplossing. In het tweede hoofdstuk behandelen we de duale vectorruimte van een doorgaans eindigdimen-

6 6 INHOUDSOPGAVE sionale vectorruimte V over K. We geven de definitie van V, beschrijven de duale basis van V gegeven een basis van V, en leggen het verband met individuele coördinaten. Vervolgens doen we een poging om het natuurlijke isomorfisme V = V inzichtelijk te maken door te benadrukken dat v V niet alleen een passieve rol heeft als argument van v (v), met v V een functionaal op V, maar ook een actieve rol ten aanzien van diezelfde v waarin v gezien wordt als het argument van v. Ervaring leert dat studenten hier in eerste instantie veel moeite mee hebben. Weinig verwonderlijk, gezien hun (school)achtergrond waarin de notatie f(x) frequenteert en een abusievelijk x(f) hoogstwaarschijnlijk slechts een reprimande opleverde. Verdere onderwerpen in Hoofdstuk 2 zijn het isomorfisme van Riesz, de duale van een lineaire afbeelding, de annihilator, en kort de quotiëntruimte. Alles blijft eindigdimensionaal, alhoewel we wel hinten naar de problematiek die optreedt bij vectorruimtes van dimensie oneindig. Hoofdstuk 3 behandelt enkele onderwerpen uit de context van de niet-negatieve lineaire algebra. Uiteraard de Perron-Frobeniustheorie, eerst voor positieve, later voor niet-negatieve matrices. Deze ligt onder andere aan de basis van discrete Markovprocessen. Hierin komen op elegante wijze een aantal eerdere concepten bijeen, die daardoor extra oefening krijgen. Zo wordt convergentie van de Neumannrij (A k ) k N bewezen door toepassing van canonieke vormen, en maakt het convergentiebewijs van de Von Mises-iteratie gebruik van zowel de Neumannrij als de Neumannreeks, alsmede van de Schurvorm van een matrix. Zodra nietnegativiteit aan bod komt, wordt de tekst combinatorisch van aard. We definiëren reducibele en irreducibele matrices aan de hand van hun onderliggende gerichte grafen en destilleren de Perron-Frobeniusstellingen in deze context. Vervolgens bekijken we het Birkhoff-polytoop Ω n van dubbelstochastische n n matrices als belangrijke deelverzameling van niet-negatieve matrices. We bewijzen de stelling van Birkhoff-Von Neumann nadat we de stelling van Frobenius- König hebben bewezen die het mogelijk maakt te concluderen dat iedere M Ω n een positieve diagonaal heeft. Positieve diagonalen vormen een duidelijke motivatie voor de permanent van een matrix. We besteden aandacht aan de verhouding determinant-permanent, en de complexiteit van hun berekening. Tot slot leiden we het Algoritme van Ryser af en de Formule van Glynn, twee methodes die de permanent in orde 2 n arithmetische operaties berekenen. Ook hier kunnen programmeer-opgaven worden uitgeschreven die het een en ander illustreren. Ieder hoofdstuk eindigt met een klein aantal opgaven, die ook niet de hele stof dekken. Docenten worden van harte aangemoedigd om naar eigen inzicht passende opgaven toe te voegen. Verantwoording Met aan zekerheid grenzende waarschijnlijkheid bevat deze tekst onnauwkeurigheden en zelfs fouten, echter geen pertinente opzettelijke leugens (althans, niet veel). Hij is meegegroeid met de cursus waar hij onderdeel van uitmaakt, en moet dan ook worden gezien als een project in aanbouw. Ik stel het zeer op prijs als fouten en/of opmerkingen worden gemeld. Jan Brandts Amsterdam, 2 maart 27

7 Hoofdstuk Canonieke vormen In dit hoofdstuk onderzoeken we hoe de keuze van een basis β voor een eindig dimensionale vectorruimte V over een getallenlichaam K doorwerkt in de matrix L β β van een lineaire transformatie van V. Dit zal leiden tot de triangulatiestellingen van Jacobi en Schur. De laatste zal als speciale gevallen de spectraalstellingen voor zelfgedjungeerde, normale, en unitaire transformaties impliceren. Tot slot leiden we middels elementaire gelijkvormigheidstransformaties, toegepast op bovendriehoeksmatrices, de Jordannormaalvorm van een matrix af.. Lineaire transformaties en gelijkvormige matrices Laat (V, K) een vectorruimte zijn over K met basis β = v,..., v n voor zekere n N. Schrijf co β : V K n voor de coördinaatafbeelding V α v + + α n v n = v co β α. α n K n (.) die aan ieder element v V zijn geordende vector van coördinaten ten opzichte van β toevoegt, en schrijf hom K (V, V ) voor de verzameling van alle lineaire transformaties L : V V. Gegeven een lineaire transformatie L hom K (V, V ) is L β β Kn n de unieke matrix zo, dat v V : co β (L(v)) = L β β co β(v). (.2) Schrijf ε = e,..., e n voor de standaardbasis van K n. De matrix L β β is als volgt te bepalen. Propositie.. Voor iedere j {,..., n} is de j-de kolom van L β β gelijk aan co β(l(v j )). Bewijs. Laat j {,..., n}. Uit (.) volgt dat co β (v j ) = e j. Dus, substitutie van v = v j in (.2) laat zien dat co β (L(v j ) = L β β e j. Merk tot slot op dat L β β e j de j-de kolom van L β β is. Als γ een basis van V is ongelijk aan β, dan zal L γ γ in het algemeen ongelijk zijn aan L β β. Dit roept de vraag op welke matrices op kunnen treden als de matrix van L ten opzichte van een gegeven basis van V. De verzameling van al deze matrices noteren we met M(L) = {A K n n A = L β β voor zekere basis β van V }. (.3) 7

8 8 HOOFDSTUK. CANONIEKE VORMEN Voor elke L hom K (V, V ) zal M(L) een gelijkvormigheidklasse van matrices in K n n blijken. We brengen daarom nu eerst het begrip gelijkvormigheid in de herinnering... Gelijkvormigheid en gelijkvormigheidsklassen We schrijven GL n (K) voor de deelverzameling van alle inverteerbare matrices in K n n. Definitie..2 (Gelijkvormigheid) Een matrix B K n n heet gelijkvormig met A K n n als er een X GL n (K) bestaat zodanig dat B = X AX. Opmerking..3 Het is niet moeilijk na te gaan dat de relatie op K n n K n n gedefinieerd door A B A is gelijkvormig met B (.4) een equivalentierelatie is. Deze relatie deelt K n n op in disjuncte equivalentieklassen, die we ook wel gelijkvormigheidsklassen noemen. Veel gemeenschappelijke eigenschappen van gelijkvormige matrices worden geïmpliceerd door de resultaten geformuleerd in het komende lemma en het erna geformuleerde gevolg. Lemma..4 Veronderstel dat A, B K n n gelijkvormige matrices zijn. Dan geldt: voor ieder polynoom p K[Y is p(a) gelijkvormig is met p(b); det(a) = det(b); dim(ker(a)) = dim(ker(b)). Bewijs. Veronderstel dat B = X AX voor zekere X GL n (K). Laat p(y ) = Y l met l N willekeurig. Dan geldt p(b) = B l = (X AX) l = X A l X = X p(a)x. Dit bewijst de eerste bewering voor monomen. De generalisatie naar polynomen is nu eenvoudig. De tweede bewering volgt uit de productformule voor determinanten, en de derde uit de equivalentie X w = w =. Immers, Bv = X AXv = AXv =. Hieruit volgt dat b,..., b p een basis is van ker(b) als en alleen als Xb,..., Xb p een basis is van ker(a) en dus zijn de dimensies van beide nulruimtes gelijk. Gevolg..5 Als A, B K n n gelijkvormig zijn dan geldt voor iedere l N {}: voor alle λ K zijn (A λi) l en (B λi) l gelijkvormig; de karakteristieke polynomen van A l en B l zijn gelijk; de algebraïsche multipliciteiten van de eigenwaarde λ van A l en van B l zijn gelijk; de meetkundige multipliciteiten van de eigenwaarde λ van A l en van B l zijn gelijk. Het nut van de observaties over machten van gelijkvormige matrices blijkt uit het volgende.

9 .. LINEAIRE TRANSFORMATIES EN GELIJKVORMIGE MATRICES 9 Voorbeeld..6 Onderstaande 4 4 matrices A en B hebben beide als enige eigenwaarde, A = en = B, met algebraïsche multipliciteit 4 en meetkundige multipliciteit 2. Toch zijn A en B niet gelijkvormig: voor A 2 = is de meetkundige multipliciteit van vier, maar voor B 2 drie...2 Elementaire gelijkvormigheidstransformaties Om te laten zien dat gelijkvormigheid in relatief kleine, overzichtelijke stappen kan worden bestudeerd, brengen we elementaire rij-operaties en elementaire matrices in de herinnering. Definitie..7 (Elementaire rij-operaties) De elementaire rij-operaties toegepast op de rijen R,..., R n van een matrix zijn: R j λr j, (λ ): het vermenigvuldigen van een rij met λ ; R j R i : het verwisselen van twee rijen; R j R j + λr i, (i j): het optellen van een veelvoud van een rij bij een andere rij. De restrictie i j in de derde operatie sluit de onomkeerbare operatie R j R j R j uit. Ieder van deze elementaire rij-operaties correspondeert met vermenigvuldiging van links met een zogeheten elementaire matrix. Definitie..8 (Elementaire matrices) Voor alle gehele k, l {,..., n} met k l en h K definiëren we de elementaire matrices D n k (h) = I n + (h )e k e k en E n kl (h) = I n + he k e l, (.5) die mogelijk alleen op positie (k, k), respectievelijk (k, l), afwijken van de identiteit I n K n n, en de elementaire matrices dus Π kl is de identiteit I n met kolommen k en l verwisseld. Π kl = I n (e k e l )(e k e l ), (.6) Opmerking..9 De matrix Dk n(h) is een diagonaalmatrix met inverse Dn k (h ) als h, en Ekl n (h) is een driehoeksmatrix met inverse En kl ( h) voor alle h K, en Π = Π kl. Voorbeeld.. Voorbeelden van ieder van deze elementaire matrixtypes zijn D2( 4 2 ) =, E24( 3) 4 = en Π 4 23 = 2 3 kl Linksvermenigvuldiging met D 2 2 ( 2 ) geeft de rij-operatie R 2 2 R 2. Linksvermenigvuldiging met E 4 24 ( 3) geeft R 2 R 2 3R 4, en Π 4 23 correspondeert met R 2 R 3..

10 HOOFDSTUK. CANONIEKE VORMEN Rechtsvermenigvuldiging van een matrix met een elementaire matrix resulteert op voorspelbare wijze in drie overeenkomstige types elementaire kolomoperaties. Definitie.. (Elementaire kolom-operaties) De elementaire kolom-operaties toegepast op de kolommen K,..., K n van een matrix zijn: K j λk j, (λ ): het vermenigvuldigen van een kolom met λ ; K j K i : het verwisselen van twee kolommen; K j K j +λk i, (i j): het optellen van een veelvoud van een kolom bij een andere kolom. De restrictie i j in de derde operatie sluit de onomkeerbare operatie K j K j K j uit. Voorbeeld..2 Het product XD2 4 (2) correspondeert met de elementaire kolomoperatie K 2 2K 2 op X, het product XE24 4 (3) met K 4 K 4 + 3K 2, en XΠ 23 met K 2 K 3. Definitie..3 (Elementaire gelijkvormigheidstransformaties) Laat A K n n en X GL n (K). De omzetting A B = X AX (.7) heet een gelijkvormigheidstransformatie van A met X. Deze zullen we vaak kortweg noteren als A X B (.8) Als de matrix X elementair is, spreken we van een elementaire gelijkvormigheidstransformatie. Opmerking..4 Omdat iedere X GL n (K) een product X... X l is van elementaire matrices, is A X B een opéénvolging van elementaire gelijkvormigheidstransformaties: A X X AX X 2 X... l X l... X AX... X l = X AX = B. Zo wordt een gelijkvormigheidstransformatie dus in inzichtelijke kleine stappen onderverdeeld. De effecten van elementaire gelijkvormigheidstransformaties leggen we uit met voorbeelden. Voorbeeld..5 Beschouw de gelijkvormigheidstransformatie van een matrix met D22 4 (2), 2 4 D2(2) D2(2) 4 3 = 4. 2 Deze correspondeert met de twee operaties K 2 2K 2 en R 2 2 R 2. Bekijk vervolgens 4 E24(3) 4 E24(3) = 4, 4 wat overeenkomt met R 2 R 2 3R 4 en K 4 K 4 + 3K 2. Dus, alleen rij twee en kolom vier veranderen, en rij vier en kolom twee bepalen die verandering. Tot slot, laat 2 2 (Π 4 23) Π = dan zien we dat R 2 R 3 en K 2 K 3. In alle gevallen zijn de bewerkingen associatief.

11 .. LINEAIRE TRANSFORMATIES EN GELIJKVORMIGE MATRICES Opmerking..6 Het is duidelijk dat gelijkvormigheidstranformaties met matrices van type Dk n en Πn kl het aantal nullen in een matrix niet veranderen. Voorbeeld..7 Gelijkvormigheidstransformaties van het type Ekl n zijn in staat is om het aantal nullen in een matrix te laten toenemen, zoals blijkt uit E 2 2() [ 2 [ E2() 2 = 2. (.9) Merk op dat de kolommen van E2 2 () kennelijk onafhankelijke eigenvectoren zijn horende bij de eigenwaarden en 2 van de gegeven matrix. We keren nu terug naar de vraag welke matrices optreden als matrix van één L hom K (V, V )...3 Gelijkvormige matrices horen bij dezelfde lineaire transformatie Laat V een vectorruimte zijn over K van dimensie n. In deze sectie bewijzen we eerst dat iedere matrix uit K n n optreedt als matrix van een lineaire transformatie L hom K (V, V ), en vervolgens dat matrices A, B K n n gelijkvormig zijn als en alleen als er een L hom K (V, V ) en basissen β en γ van V bestaat zo, dat A = L β β en B = Lγ γ. Lemma..8 Laat β = v,..., v n een basis zijn van een vectorruimte V over K. Voor iedere A K n n bestaat er een L hom K (V, V ) zo, dat A = L β β. Bewijs. Schrijf (a ij ) = A voor de entries van A. Iedere lineaire afbeelding L wordt uniek bepaald door de beelden L(v ),..., L(v n ). Laat in dit geval L bepaald worden door L(v j ) = a j v + + a nj v n, voor iedere j {,..., n}. Dan geldt per definitie dat co β (L(v j )) = a j. a nj = Ae j = Aco β (v j ) en vergelijken we dit met (.2) dan zien we dat blijkbaar A = L β β. Lemma..9 Laat L hom K (V, V ). Alle matrices in M(L) zijn gelijkvormig. Bewijs. Laat β en γ basissen zijn van V en co β en co γ de coördinaatafbeeldingen. De matrices L β β en Lγ γ uit M(L) zijn de unieke matrices waarvoor co β (L(v)) = L β β co β(v) en co γ (L(v)) = L γ γco γ (v) (.) voor alle v V. Beschouw de identieke afbeelding id : V V : v v. Omdat id een bijectie is, is de matrix id γ β van id inverteerbaar, en heeft de eigenschap dat co γ (v) = co γ (id(v)) = id γ β co β(v) en co β (v) = (id γ β ) co γ (v) (.)

12 2 HOOFDSTUK. CANONIEKE VORMEN voor alle v. Combineren we (.) met (.) dan zien we dat co β (L(v)) = (id γ β ) co γ (L(v)) = (id γ β ) L γ γco γ (v) = (id γ β ) L γ γid γ β co β(v) (.2) voor alle v V. Kennelijk geldt L β β = (idγ β ) L γ γid γ β en dus zijn Lβ β en Lγ γ gelijkvormig. We tonen nu aan dat M(L) zelfs een complete equivalentieklasse onder gelijkvormigheid is. Lemma..2 Laat β = v,..., v n een basis zijn van een vectorruimte V over K. Dan bestaat er voor iedere X GL n (K) een basis γ van V zo dat X = id γ β. Bewijs. Laat X GL n (K) gegeven zijn, met inverse Y = (y ij ). Definieer voor iedere j {,..., n} een element w j V door w j = y j v + + y nj v n. (.3) Schrijf γ = w,..., w n. Het is eenvoudig na te gaan dat γ een basis is voor V. Merk op dat (.3) laat zien dat co β (w j ) = y j. y nj = Y e j = Y co γ (w j ). Kennelijk geldt dat Y = id β γ en dus is X = Y = (id β γ) = id γ β. Voor we onze laatste conclusie trekken, onderzoeken we welke basisveranderingen overeenkomen met de elementaire gelijkvormigheidstransformaties uit de vorige sectie. Gevolg..2 Laat β = v,..., v n. Dan geldt: als γ gelijk is aan β met v k vervangen door h v k, dan is id γ β = Dn k (h); als γ gelijk is aan β met v l vervangen door v l hv k, dan is id γ β = En kl (h); als γ gelijk is aan β met v k en v l verwisseld, dan is id γ β = Πn kl. Deze kunnen met goed recht de drie types elementaire basisveranderingen genoemd worden. Gevolg..22 Laat L hom K (V, V ). Als B gelijkvormig is met A M(L), is B M(L). Bewijs. Laat A M(L). Dan is A = L β β voor zekere basis β = v,..., v n van V. Laat nu B = X AX voor zekere X GL n (K). Volgens Lemma..2 bestaat er een basis γ van V waarvoor id γ β = X. Dus geldt B = X AX = (id γ β ) L β β idγ β en dus is B = L γ γ. Dit bewijst de bewering. Samengevat hebben we nu aangetoond dat de verzameling K n n bestaat uit equivalentieklassen van gelijkvormige matrices, en dat iedere klasse bestaat uit alle mogelijke matrices van een lineaire transformatie L hom K (V, V ) ten opzichte van alle basiskeuzes voor V.

13 .. LINEAIRE TRANSFORMATIES EN GELIJKVORMIGE MATRICES 3..4 Voorbeeld: de gelijkvormigheidsklassen van de vectorruimte F We illustreren het voorgaande in de meest eenvoudige setting mogelijk. Beschouw het eindige lichaam F 2 = {, } met optelling en vermenigvuldiging als in de volgende tabellen, + en De tweedimensionale vectorruimte F 2 2 over F 2 bestaat uit de volgende vier elementen, {[ [ [ [ } F 2 2 =,,,. Opmerking..23 Er zijn 4 4 = 256 verschillende manieren om aan iedere v F 2 2 een element K(v) F 2 2 toe te kennen. Er bestaan dus 256 verschillende afbeeldingen K van F2 2 naar F 2 2, waarvan zal blijken dat slechts een klein deel lineair is. De drie elementen uit F 2 2 ongelijk aan nul zijn paarsgewijs lineair onafhankelijk. Hieruit volgt dat er zes verschillende basissen bestaan van F 2 2, namelijk de drie basissen [ [ [ [ [ [,,,,,, en de drie basissen waarin de volgorde van ieder bovenstaand paar van vectoren is omgedraaid. De vectorruimte F van 2 2 matrices met entries uit F 2 bevat de volgende 6 elementen, [ [ [ [ [ [ [ [,,,,,,,, [, [, [, [ Hiervan zijn er slechts zes inverteerbaar, {[ [ GL 2 (F 2 ) =,,, [ [, [, [, [, [ [,, }. [ De derde matrix is de inverse van de zesde, de overige vier zijn inverse van zichzelf. Merk de correspondentie op tussen de matrices uit GL 2 (F 2 ) en de bovengegeven zes basissen van F 2 2. Opmerking..24 De elementaire matrices in GL 2 (F 2 ) zijn I = D 2() = D2 2 () en [ [ [ Π 2 2 =, E 2 2() =, E 2 2() =. De overige twee elementen van F zijn hiervan een product: [ [ = Π 2 2 E 2 2() en = Π 2 2 E 2 2(). Dit laat zien dat iedere X GL 2 (F 2 ) een product is van elementaire matrices..

14 4 HOOFDSTUK. CANONIEKE VORMEN Volgens Lemma..8 is iedere A F2 2 2 de matrix van een lineaire transformatie L van F 2 2 ten opzichte van een gegeven basis van F2 2, dus bevat hom F 2 (F 2 2, F2 2 ) zestien elementen. Sommige van de matrices in F zijn gelijkvormig, zoals bijvoorbeeld [ [ = (Π 2 2) Π 2 2, en zijn dus matrices van dezelfde lineaire transformatie ten opzichte van verschillende basissen. Opmerking..25 Gelijkvormigheid kan vaak al ontkracht worden door het berekenen van eigenwaarden en eigenvectoren. Dat laatste is hier zeer eenvoudig: voor A F2 2 2, bereken Av voor de drie niet-nul elementen uit F 2 2 en controleer of Av een veelvoud van v is. Omdat [ [ [ [ [ [ [ [ [ =, =, = heeft de hier figurerende matrix uit F helemaal geen eigenwaarden in F 2, en is dus bijvoorbeeld niet gelijkvormig met de volgende matrix die een eigenwaarde nul heeft: [ [ = [. De overige twee vectoren in F 2 2 zijn geen eigenvectoren voor deze laatste matrix. Enig rekenwerk verdeelt de 6 elementen van F onder in de volgende zes equivalentieklassen C,..., C 6 onder gelijkvormigheid: C = {[ C 4 = C 6 = {[ [, {[ } {[, C 2 =, [, [, } {[, C 3 = } {[, C 5 = [ [,, [, [ [,, }, [, [ Kennelijk bestaat er niet voor iedere lineaire transformatie L van een vectorruimte V een basis β zo, dat L β β bovendriehoeksmatrix is. We onderzoeken nu wanneer dit wel zo is. }..2 Triangulatiestellingen voor lineaire transformaties We memoreren de definitie van diagonaliseerbaarheid van lineaire transformaties en matrices. Definitie.2. (Diagonaliseerbaar) Een lineaire transformatie L hom K (V, V ) heet diagonaliseerbaar als er een basis β van V bestaat waarvoor L β β een diagonaalmatrix is. Een matrix A K n n heet diagonaliseerbaar als A gelijkvormig is met een diagonaalmatrix. Opmerking.2.2 Sectie. laat zien dat L diagonaliseerbaar is als en alleen als iedere matrix L γ γ van L gelijkvormig is met een diagonaalmatrix. },

15 .2. TRIANGULATIESTELLINGEN VOOR LINEAIRE TRANSFORMATIES 5 Niet iedere lineaire transformatie L van een vectorruimte V over K is diagonaliseerbaar. Als het lichaam K echter algebraïsch afgesloten is, dan zal het wel altijd mogelijk blijken om L op bovendriehoeksvorm te brengen. Definitie.2.3 Een lichaam K heet algebraïsch afgesloten als ieder niet-constant polynoom p K[X met coëfficiënten in K een nulpunt heeft in K. Stelling.2.4 (Hoofdstelling van de Algebra) Het lichaam C is algebraïsch afgesloten. Naast dit bekende voorbeeld van een algebraïsch afgesloten lichaam geven we nog een tweede voorbeeld, met als doel te laten zien dat de komende stellingen niet uitsluitend over C gaan. Definitie.2.5 (Algebraïsche en transcendente getallen) Een getal a C heet algebraïsch als a een nulpunt is van een polynoom p Z[X. We schrijven Q voor de verzameling van algebraïsche getallen. De getallen in C \ Q heten transcendent. Bekende voorbeelden van transcedente getallen zijn π en e. Stelling.2.6 De deelverzameling Q C is een algebraïsch afgesloten en aftelbaar lichaam. Het is de doorsnede van alle algebraïsch afgesloten lichamen die Q bevatten. In navolging van het voorgaande geven we nu ook een bekend en een minder bekend voorbeeld van lichamen die niet algebraïsch afgesloten zijn. Voorbeeld.2.7 Het lichaam R is niet algebraïsch afgesloten. Immers, het niet-constante polynoom p(x) = + X 2 uit R[X heeft geen nulpunt in R. Voorbeeld.2.8 Beschouw het lichaam F 2 uit Sectie..4. Het polynoom p(x) = + X 2 uit F 2 [X heeft wel een nulpunt in F 2. Desondanks is F 2 niet algebraïsch afgesloten: het niet-constante polynoom p(x) = X 2 + X + heeft namelijk geen nulpunt in F 2. In Stelling.2.9 en Stelling.2. geven we nu twee formuleringen van hetzelfde resultaat, dat we vervolgens in een aantal stappen, geïllustreerd met voorbeelden, gaan bewijzen. Stelling.2.9 (Triangulatiestelling van Jacobi) Zij (V, K) een vectorruimte over een algebraïsch afgesloten lichaam K. Voor iedere lineaire transformatie L : V V bestaat er een basis γ van V waarvoor de matrix L γ γ van L een bovendriehoeksmatrix in K n n is. Een equivalente (zie Sectie.) matrix-formulering van Stelling.2.9 is de volgende. Stelling.2. (Matrixtriangulatie) Als K algebraïsch afgesloten is, dan is iedere A K n n gelijkvormig met een bovendriehoeksmatrix in K n n. Opmerking.2. In Sectie..4 zagen we dat de volgende twee matrices een gelijkvormigheidklasse vormen in F 2 2 2, [, [ Geen van beide is dus gelijkvormig met een bovendriehoeksmatrix in F Dit laat zien dat de veronderstelling in Stelling.2. dat K algebraïsch afgesloten is kan niet gemist worden..

16 6 HOOFDSTUK. CANONIEKE VORMEN.2. Geschiedenis en motivatie Stelling.2. is vernoemd naar Carl Jacobi (84-85), die hem in 837 publiceerde. Carl Jacobi (84-85) en Issai Schur (875-94) Issai Schur (875-94) liet zien dat er onder dezelfde voorwaarden zelfs altijd een orthonormale basis β van V bestaat zodanig dat de matrix L β β van de lineaire transformatie L bovendriehoeks is. Dit sterkere resultaat staat te boek als de Schurdecompositie. We bewijzen het in Sectie.2.6. Vervolgens illustreren we het belang van de Schurdecompositie. In Sectie.2.7 zien we hoe de Schurdecompositie kan worden ingezet om een kort bewijs te geven in de context van Google s PageRank. In Sectie.2.8 leiden we er de diverse spectraalstellingen mee af voor normale, voor zelfgeadjungeerde, en voor unitaire transformaties. We beginnen echter in Secties.2.2 en.2.3 met het bestuderen van twee eenvoudige gevallen van Stelling.2., te weten A K 2 2 en A K 3 3, en geven enkele voorbeelden. Daarna zal een inductieargument in Sectie.2.4 de stelling bewijzen voor A K n n voor alle n N..2.2 Triangulatie van 2 2 matrices De volgende relatief eenvoudige observatie staat aan de basis van alle triangulatiestellingen. Lemma.2.2 Gegeven een matrix A K n n met K algebraïsch afgesloten. Laat λ K en x K n met Ax = λx. Laat X GL n (K) zijn, met eerste kolom gelijk aan x. Dan is Oftewel, de eerste kolom van X AX is gelijk aan λe. λ... X... AX =.... (.4)... Bewijs. Omdat Xe gelijk is aan de eerste kolom x van X, geldt Ax = λx AXe = λxe X AXe = λe. Omdat X AXe de eerste kolom is van de matrix X AX, bewijst dit de bewering.

17 .2. TRIANGULATIESTELLINGEN VOOR LINEAIRE TRANSFORMATIES 7 Opmerking.2.3 Als A K n n en K is algebraïsch afgesloten, dan heeft het karakteristieke polynoom p(a) K[X n van A tenminste één nulpunt in K en dus bestaan λ K en x K n, x zodanig dat Ax = λx. Daarnaast kan {x} ook altijd uitgebreid worden tot een basis γ = x, x 2,..., x n van K n, en dus bestaat er een X GL n (K) met eerste kolom Xe = x. Dus voor alle A K n n is voldaan aan de voorwaarden van Lemma.2.2. Opmerking.2.4 Beschouw de reële vectorruimte (R 2, R). Het lichaam R is niet algebraïsch afgesloten: het niet-constante polynoom p(x) = + X 2 heeft immers geen nulpunt in R. De rotatie om de oorsprong van R 2 over 9 graden is een lineaire transformatie L : R 2 R 2 zonder reële eigenwaarden. Er bestaat daarom geen basis β van R 2 zodanig dat L β β een bovendriehoeksmatrix is. Lemma.2.2 geeft onmiddellijk het bewijs van Stelling.2. voor n = 2, en ook een rekenrecept om X GL 2 (K) te bepalen zodanig dat X AX = R bovendriehoeks is. Gevolg.2.5 Laat A K 2 2 en Ax = λx met λ K en x K 2. Laat X GL 2 (K) een matrix zijn met eerste kolom gelijk aan x. Dan is [ X λ AX = (.5) en dit is dus een bovendriehoeksmatrix die gelijkvormig is met de matrix A. Bewijs. De matrix X AX in (.4) is nu 2 2 en dus triviaal bovendriehoeks. Voorbeeld.2.6 We beschouwen de matrix A C 2 2 met als enige eigenwaarde λ =, [ [ A =, ker(a I) = span{x} met x =. (.6) Omdat A geen twee lineair onafhankelijke eigenvectoren heeft, is A niet diagonaliseerbaar. We gaan daarom A op bovendriehoeksvorm brengen. Kies hiertoe, als één van de vele mogelijke keuzes (zie ook Opmerking.2.7) voor X GL 2 (C) de matrix en vinden we X AX = X = [ [ [ [, dan is X 2 3 = [ = [ (.7) = R. (.8) En dus is R een bovendriehoeksmatrix gelijkvormig met A. Opmerking.2.7 De keuze van X in (.7) is verre van uniek; de eerste kolom kan iedere eigenvector van A zijn, de tweede kolom iedere vector die geen veelvoud is van de eerste. Hier kozen we de tweede kolom zo, dat det(x) =. Hierdoor bevat de inverse X geen breuken. Verschillende keuzes resulteren doorgaans in verschillende bovendriehoeksvormen van A, die natuurlijk wel dezelfde diagonaal-elementen hebben (mogelijk in een andere volgorde).

18 8 HOOFDSTUK. CANONIEKE VORMEN Opmerking.2.8 De matrix X kan zelfs zo worden gekozen, dat de kolommen orthonormaal zijn, door de gevonden eigenvector op lengte één te schalen, en er een tweede kolom met lengte één loodrecht op de eerste naast te zetten. In Sectie.2.6 komen we hier op terug. Het volgende voorbeeld illustreert Stelling.2.9 ingeval n = 2. Voorbeeld.2.9 Beschouw de complexe vectorruimte (C[X, C) van polynomen van graad ten hoogste één in X met complexe coëfficiënten, met daarop de lineaire transformatie L : C[X C[X : p p + p()x. (.9) Het polynoom p met voorschrift p (X) = X is een eigenvector van L bij eigenwaarde, immmers, L(p ) = p + p = p. Samen met het constante polynoom p 2 (X) = geeft dit een basis β = p, p 2 van C[X. Het is vervolgens eenvoudig om na te gaan dat L β β = [, (.2) dus de matrix van L ten opzichte van β is een bovendriehoeksmatrix. Opmerking.2.2 De algemene werkwijze bij een lineaire transformatie L van een tweedimensionale vectorruimte V is, om eerst de matrix L γ γ K 2 2 horend bij een willekeurige basis γ = γ, γ 2 van V te bepalen. Immers, als vervolgens x = (x, x 2 ) een eigenvector is van L γ γ in K 2, dan is u = x γ + x 2 γ 2 een eigenvector van L in V. Vul vervolgens u op willekeurige wijze aan tot een basis β = u, v van V, dan is L β β bovendriehoeks..2.3 Blokvermenigvuldiging en triangulatie van 3 3 matrices We laten nu middels een voorbeeld zien hoe we een matrix A K 3 3 op bovendriehoeksvorm kunnen brengen, gebruik makend van het feit dat we dit voor 2 2 matrices al kunnen. Eerst een nuttig lemma over het rekenen met matrices die in blokvorm zijn gepartitioneerd. Lemma.2.2 (Blokvermenigvuldiging) Laat X, Y K n n en laat k, l N met k +l = n. Partitioneer [ [ A B E F X = en Y =, (.2) C D G H waarbij A, E K k k en D, H K l l. Dan geldt [ AE + BG AF + BH XY = CE + DG CF + DH Bewijs. Volgt door geduldig uitschrijven.. (.22) De blokvermenigvuldiging in (.22) is dus volstrekt analoog aan die van twee 2 2 matrices. Gevolg.2.22 Veronderstel dat X K n n gepartitioneerd wordt als [ A B X =, (.23) D

19 .2. TRIANGULATIESTELLINGEN VOOR LINEAIRE TRANSFORMATIES 9 waarbij A K k k en D K l l met k, l N, k + l = n. Laat H GL l (K), dan geldt [ I H X waarbij I K k k de identiteitsmatrix is. [ I H = [ A BH H DH, (.24) De blokvermenigvuldiging in Gevolg.2.22 zullen we gebruiken in het volgende voorbeeld. Voorbeeld.2.23 De volgende matrix A heeft als enige eigenwaarde λ =, 3 A = en ker(a I) = span{x} met x =. (.25) Er zijn dus geen drie lineair onafhankelijke eigenvectoren, en dus is A niet diagonaliseerbaar. We laten zien hoe we A op bovendriehoeksvorm kunnen brengen. Hiertoe construeren we eerst een eenvoudig inverteerbare matrix X GL 3 (K) waarvoor Xe = x, bijvoorbeeld, X =, waarvoor X =, (.26) en vinden we in overeenstemming met Lemma.2.2 dat 3 X AX = 2 = B (.27) 2 3 een matrix is met als eerste kolom λe = e. Beschouw vervolgens de 2 2 matrix [ [ 2 C = met eigenvector. (.28) 2 3 Deze 2 2 matrix kan, net als in Voorbeeld.2.6, op bovendriehoeksvorm worden gebracht, bijvoorbeeld middels de matrix Y GL 2 (C) [ [ [ [ Y 2 2 CY = =. (.29) 2 3 En dus, met behulp van Gevolg.2.22 vinden we dat [ [ 2 3 B = 2 Y Y Combineren we (.27) en (.3) dan zien we dat we met [ Z = X = Y = R. (.3) = (.3) een matrix Z GL 3 (C) hebben gecontrueerd waarvoor Z AZ = R bovendriehoeks is.

20 2 HOOFDSTUK. CANONIEKE VORMEN Opmerking.2.24 Ondanks dat in (.26) iedere inverteerbare matrix X met een niettriviaal veelvoud van x als eerste kolom volstaat, is het plezierig als X zonder al te veel rekenwerk geïnverteerd kan worden. Merk hiertoe op dat X altijd van de vorm a b of a of, (a, b K) (.32) kan worden gekozen, en dat de inverses hiervan vrijwel onmiddellijk op te schijven zijn. Opmerking.2.25 Ook de 2 2 matrix Y in (.29) is op soortgelijke wijze gekozen om zijn eenvoudige inverse: het is altijd mogelijk om voor Y een marix van de vorm [ [ Y = of Y = (.33) a te kiezen, en ook hiervan zijn de inverse direct op te schrijven. Opmerking.2.26 Ook in dit voorbeeld kan zowel de matrix X als de matrix Y zo worden gekozen, dat de kolommen orthonormaal zijn. De matrix X zal echter doorgaans niet meer van de vorm (.32) zijn, noch zal Y van de vorm (.33) zijn. Dit resulteert dan in een matrix Z met orthonormale kolommen zodanig dat Z AZ bovendriehoeks is. Zie weer Sectie.2.6. Het zal nu duidelijk zijn hoe een matrix A K n n op bovendriehoeksvorm kan worden gebracht, ervanuitgaande dat we weten hoe dat moet voor een matrix B K (n ) (n )..2.4 Inductiebewijs van de triangulatiestelling van Jacobi We bewijzen nu Stelling.2. met behulp van volledige inductie. We veronderstellen dat K een algebraïsch afgesloten lichaam is. Inductiebasis: In Gevolg.2.5 in Sectie.2.2 zagen we reeds dat Stelling.2. geldt voor n = 2. De stelling geldt overigens natuurlijk ook voor n =. Inductiehypothese: Voor iedere matrix B K (n ) (n ) bestaat er een Y GL n (K) zodanig dat Y BY = T een bovendriehoeksmatrix is. Inductiestap: Laat A K n n. GL n (K) zodanig dat Dan bestaat er volgens Lemma.2.2 een matrix X X AX = [ λ b B. (.34) Hierbij is b K (n ) en B K (n ) (n ) en is λ K een eigenwaarde van A. Volgens de inductiehypothese bestaat er een Y GL n (K) zodanig, dat Y BY = T bovendriehoeks is. Met behulp van Gevolg.2.22 geldt nu dat [ Y X AX [ Y = [ Y [ λ b B [ Y = [ λ by T = R, en omdat T bovendriehoeks is, is R dat ook. Merk tot slot op dat de matrix [ Z = X GL Y n (K), (.35)

21 .2. TRIANGULATIESTELLINGEN VOOR LINEAIRE TRANSFORMATIES 2 als product van twee inverteerbare matrices. We concluderen dat Z AZ = R bovendriehoeks is. Dit bewijst Stelling.2.. Opmerking.2.27 De triangulatieconstructie van Jacobi kan al worden ingezet zodra één eigenwaarde van A bekend is. Daarna moet steeds een eigenwaarde van een kleinere matrix gevonden worden om het proces te kunnen continueren. Mocht A diagonaliseerbaar zijn, dan leidt dit proces in het algemeen echter niet automatisch tot een diagonalisatie van A. Voorbeeld.2.28 Gegeven de matrix A = 2 2 met Ax = x voor x = 2 4 Een eenvoudig inverteerbare matrix X GL 3 (C) met x als eerste kolom is X = met X =. (.36). (.37) We vinden nu dat X AX = 2 3 = R, (.38) en R is bij toeval al bovendriehoeks. De eigenwaarden van A staan op de diagonaal van R. Indien gewenst kan A nu gediagonaliseerd worden door een basis van eigenvectoren te bepalen..2.5 Invariante deelruimtes en complete vlaggen Om de meetkundige betekenis van de triangulatiestelling van Jacobi te duiden, introduceren we twee nieuwe meetkundige begrippen. Definitie.2.29 (Invariante deelruimte) Zij L hom K (V, V ). Een deelruimte U van V heet invariant onder L, of, indien de context duidelijk is kortweg invariant, als geldt dat L(u) U voor alle u U. Om aan te geven dat L(u) U voor alle u U zullen we ook de notatie L(U) U gebruiken. Voorbeeld.2.3 Zij u een eigenvector van een lineaire transformatie L : V V van een vectorruimte (V, K). Dan is U = span{u} een invariante deelruimte onder L. Voorbeeld.2.3 Iedere deelruimte U V van een vectorruimte (V, K) is invariant onder zowel de identieke afbeelding id : V V : v v, als de nulafbeelding : V V : v. Definitie.2.32 (Vlag) Zij V een vectorruimte van dimensie n. Een rij geneste deelruimtes U U 2 U k V met dim(u ) < dim(u 2 ) < < dim(u k ) (.39) met strict stijgende dimensies heet een vlag, en een complete vlag indien k = n.

22 22 HOOFDSTUK. CANONIEKE VORMEN Definitie.2.33 (Geïnduceerde complete vlag) Zij γ = c,..., c n een basis van een vectorruimte (V, K). Laat voor iedere k {,..., n}, U k = span{c,..., c k }. (.4) Dan heet U U 2 U n = V de door γ geïnduceerde complete vlag. Voorbeeld.2.34 De standaardbasis e,..., e n induceert E E 2 E n = K n met E k = span{e,..., e k }. Deze complete vlag heet de standaardvlag in K n. Het volgende lemma combineert de concepten van complete vlag en invariante deelruimte. Lemma.2.35 Laat R K n n. De standaardvlag bestaat uit invariante deelruimtes onder de lineaire transformatie L : K n K n : x Rx als en alleen als R bovendriehoeks is. Bewijs. Laat k {,..., n}. Duidelijk is dat Rx E k voor alle x E k als R bovendriehoeks is, en dus is E k invariant onder L. Als R niet bovendriehoeks is, is e i Re j voor zekere n i > j. Maar dat betekent dat Re j E j, en dus is E j niet invariant. We herformuleren nu de triangulatiestelling van Jacobi in deze nieuwe terminologie. Stelling.2.36 Zij (V, K) een vectorruimte met K algebraisch afgesloten. Voor iedere L hom K (V, V ) bestaat er een complete vlag van invariante deelruimtes onder L. Bewijs. Laat op grond van Stelling.2. γ = c,..., c n een basis van V zijn waarvoor L γ γ een bovendriehoeksmatrix is. We gaan aantonen dat de door γ geïnduceerde complete vlag U U 2... U n U n = V bestaat uit invariante deelruimtes U k = span{c,..., c k }. Merk hiertoe op dat L γ γ de matrix is waarvoor geldt dat co γ (L(v)) = L γ γco γ (v) (.4) voor alle v V, waarbij co γ : V K n de coördinaatafbeelding is. Laat nu k {,..., n} gegeven zijn en kies u U k. Dan is co γ (u) E k = span{e,..., e k }. Omdat L γ γ bovendriehoeks is, is wegens Lemma.2.35 ook L γ γco γ (u) E k. En dus geeft (.4) dat co γ (L(u)) E k, wat equivalent is met L(u) U k. Dit bewijst de bewering. We besteden nu even kort aandacht aan de omkering van de uitspraak in Stelling Stelling.2.37 Zij L : V V een lineaire transformatie van een vectorruimte (V, K). Veronderstel dat U U 2... U n U n = V een complete vlag van invariante deelruimtes onder L is. Dan bestaat er een basis γ van V waarvoor L γ γ bovendriehoeks is. Bewijs. Laat γ = {c } een basis zijn van U. Kies nu voor iedere k {2,..., n} achtereenvolgens γ k = γ k {c k } waarbij c k U k en c k U k. Dan is γ = γ n = c,..., c n een basis van V met de eigenschap dat L(c k ) U k, en dus is L γ γ een bovendriehoeksmatrix.

23 .2. TRIANGULATIESTELLINGEN VOOR LINEAIRE TRANSFORMATIES De triangulatiestelling van Schur In deze sectie gaan we na wat het concept inproduct kan toevoegen aan de triangulatiestelling van Jacobi. Dit zal leiden tot de triangulatiestelling van Schur. Lemma.2.38 Laat (V, K,, ) een inproductruimte zijn met basis γ = c,..., c n. Laat U U 2 U n de complete vlag zijn geïnduceerd door de basis γ van V. Dan bestaat er ook een orthonormale basis β die diezelfde vlag induceert. Bewijs. Definieer U = {}. Voor iedere opeenvolgende k {,..., n}, kies b k U k met b k U k en b k =. Dan is span{b,..., b k } = U k voor alle k {,..., n}. Dus induceert b,..., b n dezelfde comlete vlag als γ. Omdat b k loodrecht staat op b,..., b k en b k = voor alle k {,..., n} is β = b,..., b n daarnaast ook een orthonormale basis van V. Gevolg.2.39 Het Gram-Schmidt proces toegepast op γ resulteert in een orthonormale basis β die dezelfde vlag induceert als γ. Immers, één van de karakteriserende eigenschappen van het Gram-Schmidt proces is dat voor alle k {,..., n} span{b,..., b k } = span{c,..., c k }. (.42) Gram-Schmidt is dus een speciaal geval van de constructie in het bewijs van Lemma Na deze inleiding zijn we in staat om de triangulatiestelling van Schur te bewijzen. Stelling.2.4 (Triangulatiestelling Schur) Zij (V, K,, ) een inproductruimte over een algebraïsch afgesloten lichaam K. Voor elke lineaire transformatie L : V V bestaat er een orthonormale basis β van V waarvoor de matrix L β β van L een bovendriehoeksmatrix is. Bewijs. Op grond van Stelling.2.9 bestaat er een basis γ = c,..., c n van V zodanig, dat de matrix L γ γ een bovendriehoeksmatrix is. Laat U U 2 U n = V de door γ geïnduceerde complete vlag zijn. Volgens Stelling.2.36 bestaat deze uit invariante deelruimtes onder L. Volgens Lemma.2.38 bestaat er een orthonormale basis β = b,..., b n zodanig dat voor alle k {,..., n} dat span{b,..., b k } = span{c,..., c k } = U k. (.43) Omdat U k invariant is, geldt L(b k ) span{b,..., b k }, en dus is L β β bovendriehoeks. De overeenkomstige formulering van Stelling.2.4 in termen van matrices is de volgende. Stelling.2.4 Gegeven een matrix A K n n met K algebraïsch afgesloten en een inproduct, op K n. Dan bestaat er een matrix U K n n met, -orthonormale kolommen zodanig dat U AU = R een bovendriehoeksmatrix is. Opmerking.2.42 Met A C n n en, het standaardinproduct op C n, zegt Stelling.2.4 dat er een unitaire matrix U bestaat zodanig dat U AU = R bovendriehoeks is. Definitie.2.43 (Schurvorm en Schurdecompositie) Een bovendriehoeksmatrix R als in Stelling.2.4 en Stelling.2.4 heet een Schurvorm van L of A, en de factorisatie A = URU equivalent aan Stelling.2.4 een Schurdecompositie of Schurfactorisatie van A.

24 24 HOOFDSTUK. CANONIEKE VORMEN Opmerking.2.44 Stelling.2.4 kan ook als volgt worden bewezen. Laat Au = λu met u =. Laat U K n n een matrix zijn met orthonormale kolommen met Ue = u. Dan is volgens Lemma.2.2 de eerste kolom van U AU gelijk is aan λe. Vervolgens kan een inductiebewijs worden gegeven, met als enige verschil met Sectie.2.6 dat de transformatiematrices niet alleen inverteerbaar zijn, maar zelfs orthonormale kolommen hebben. Dit alternatieve korte bewijs heeft twee nadelen. Ten eerste zouden we dan de triangulatiestelling van Jacobi niet zijn tegengekomen, en die zal later zijn nut nog bewijzen. Ten tweede is het veel minder rekenwerk eerst een basis γ te bepalen ten opzichte waarvan L γ γ bovendriehoeks is, en deze vervolgens met Gram-Schmidt te orthonormaliseren. Het boven gesuggereerde inductiebewijs volgend hebben we voor iedere k {2,..., n} een k k matrix nodig met orthonormale kolommen, wat tot veel overbodige orthonormalisaties leidt. Voorbeeld.2.45 In Voorbeeld.2.6 zagen we de matrix A C 2 2, [ [ A =, ker(a I) = span{x} met x = (.44) We brachten A op bovendriehoeksvorm door een X GL 2 (C) te construeren met x als eerste kolom. We willen nu een sterker resultaat, namelijk, A op bovendriehoeksvorm brengen middels een matrix U met orthonormale kolommen. Kies derhalve U = 3 [ (.45) dan heeft U orthonormale kolommen, geldt dus dat U = U, en vinden we vervolgens U AU = [ [ [ [ =. (.46) De rechtermatrix is inderdaad bovendriehoeks, maar niet gelijk aan R uit Voorbeeld.2.6. De Frobeniusnorm A F van een matrix A C n n is de wortel van de som van de kwadraten van de entries van A. Het is niet moelijk in te zijn dat als U unitair is, In het bovenstaande voorbeeld uit zich dit in de gelijkheid U AU F = A F. (.47) = (.48) We beschouwen nu nogmaals de matrix uit Voorbeeld Voorbeeld.2.46 In Voorbeeld.2.23 zagen we de matrix A C 3 3 met enige eigenwaarde λ = en 3 A = en ker(a I) = span{x} met x =. (.49) Na enig rekenwerk vonden we in (.3) dat 2 3 Z AZ = 2, waarbij Z =. (.5)

25 .2. TRIANGULATIESTELLINGEN VOOR LINEAIRE TRANSFORMATIES 25 Om een matrix U met orthonormale kolommen te vinden waarvoor U AU bovendriehoeks is, volstaat het volgens Gevolg.2.39 om het Gram-Schmidt proces (van links naar rechts) toe te passen op de kolommen van Z. Dit geeft U = / 3 2/ 6 / 3 / 6 / 2 / 3 / 6 / 2 8 en U 2/3 AU = 6/3. (.5) Deze bovendriehoeksmatrix is daarmee dus een Schurvorm van A. Opmerking.2.47 Laat k n. Het toepassen van het Gram-Schmidt proces op de kolommen b,..., b k van een matrix B K n k resulteert in orthonormale vectoren q,..., q k die de kolommen zijn van een matrix Q K n k zodanig dat B = QR, Q Q = I K k k, R K k k is bovendriehoeks. (.52) Immers, de l-de kolom b l van B is per constructie in het Gram-Schmidt proces een lineaire combinatie van q,..., q l. De factorisatie (.52) heet een QR-factorisatie van B. Indien nu X GL n (K) zodanig is, dat X AX = R bovendriehoeks is, en X = QU met Q Q = I en U bovendriehoeks een QR-decompositie van X is, dan volgt dat Q AQ = Q AQ = UX AXU = URU bovendriehoeks is als product van drie bovendriehoeksmatrices U, R en U. Dit bewijst de Stelling van Schur in termen van QR-factorisatie van de matrix X in de Stelling van Jacobi..2.7 Toepassing: Schur decompositie en Google s PageRank In het PageRank model van Page en Brin, de oprichters van Google, wordt een eigenvector berekend van de Google matrix G R n n. Deze matrix G is van de vorm G = αs + ( α)t, met T = ee n en α [, ). (.53) Hierbij is e de all-ones vector, oftewel, de som van alle standaard basisvectoren, α is een geheime parameter, en S R n n is een matrix die de link-structuur van het internet codeert. Larry Page (b. 973) en Sergey Brin (b. 973)

26 26 HOOFDSTUK. CANONIEKE VORMEN Bekend is dat de entries in iedere kolom van S niet-negatief zijn en optellen op tot één, oftewel, e S = e en dus S e = e. Zo n matrix heet kolomstochastisch. Merk op dat hier niets anders staat dan dat e een eigenvector is van S horend bij eigenwaarde λ =. Dus heeft ook S een eigenwaarde. Omdat ook de kolommen van T optellen tot één, geldt hetzelfde voor G. Dus ook G is kolomstochastisch, en G e = e. Dus is ook een eigenwaarde van G. De volgende stelling is van groot belang voor het efficiënt kunnen uitrekenen van een eigenvector horend bij λ =. Stelling.2.48 dim ker(g I) =. Als λ een eigenwaarde is van G, dan λ α. Bewijs. Deze stelling werd in 23 bewezen door S. Kamvar and T. Haveliwala. Sepandar Kamvar en Taher Haveliwala Ze publiceerden het in een onderzoeksartikel van acht bladzijden getitled The Second Eigenvalue of the Google Matrix (Technical Report, Stanford University) dat inmiddels al ruim driehonderd keer is geciteerd. Het kan veel korter met de Schurdecompositie. Bewijs. Laat U S U = R een Schurvorm van S zijn met de eigenschap dat de eerste kolom u = Ue gelijk is aan de (genormaliseerde) eigenvector e/ n van S. Dan is U e = ne, is de linksboven entry van R aan één, en zijn alle andere diagonaalentries van R in absolute waarde ten hoogste één. Het is niet moeilijk te zien dat ook de matrix U G U = αu S U + ( α) U ee U n = αr + ( α)e e, (.54) bovendriehoeks is. Immers, αr is bovendriehoeks, en ( α)e e is een matrix waarvan de linksboven-entry gelijk is aan α en de overige entries zijn nul. De linksboven-entry van U G U is gelijk aan α + ( α) =. De overige diagonaalentries zijn in absolute waarde ten hoogste gelijk aan α. Maar deze diagnonaalentries zijn de eigenwaarden van U G U, en dus ook de eigenwaarden van G, en dus de complex geconjugeerden van de eigenwaarden van G. Omdat we al weten dat G ook een eigenwaarde λ = heeft, weten we nu dat de eigenruimte behorende bij deze eigenwaarde dimensie één heeft als α <..2.8 Spectraalstellingen voor normale, Hermietse, en unitaire matrices In deze sectie beperken we ons tot lineaire transformaties van complexe inproductruimtes en hun matrices A C n n. We brengen eerst de geadjungeerde transformatie in de herinnering.

27 .2. TRIANGULATIESTELLINGEN VOOR LINEAIRE TRANSFORMATIES 27 Definitie.2.49 ((Zelf-)geadjungeerde transformatie) Zij L : V V een lineaire transformatie van een inproductruimte (V, C,, ). Dan is de lineaire transformatie L : V V met de eigenschap dat L (v), w = v, L(w) voor alle v, w V (.55) de geadjungeerde van de transformatie L. Als L = L heet L zelfgeadjungeerd. Opmerking.2.5 De afbeelding L is door (.55) goedgedefinieerd: laat β = b,..., b n een orthonormale basis zijn van V, dan is L (v) = β b +... β n b n waarbij β k uniek bepaald wordt door w = b k te substitueren in (.55). De lineariteit van L is niet moeilijk. Definitie.2.5 ((Zelf-)geadjungeerde matrix) De geadjungeerde A A C n n is de matrix A = A. Als A = A dan heet A zelfgeadjungeerd. van een matrix Lemma.2.52 Zij L : V V een lineaire transformatie van een inproductruimte (V, C,, ) en K : V V zijn geadjungeerde. Laat β = b,..., b n een orthonormale basis zijn van V. Dan geldt K β β = (Lβ β ), (.56) oftewel, de matrix van de geadjungeerde is gelijk aan de geadjungeerde van de matrix. Bewijs. We passen stap voor stap bekende definities en resultaten toe, e i (L β β e j) = e i co β (L(b j )) 2 = b i, L(b j ) 3 = K(b i ), b j 4 = b j, K(b i ) 5 = e j co β(k(b i )) 6 = e j Kβ β e i en concluderen van de ij-de entry van L β β de geconjugeerde is van de ji-de entry van Kβ β. Toelichtingen: () co β (L(v)) = L β β co β(v) voor alle v V en dus ook voor v = b j, waarmee co β (v) = e j ; (2) als L(b j ) = α b + + α n b n dan is e i co β(l(b j )) = α i maar ook b i, L(b j ) = α i ; (3) dit geldt precies wegens de definitie (.55) van geadjungeerde afbeelding; (4) geconjugeerde symmetrie van een complex inproduct; (5) als K(b i ) = γ b + + γ n b n dan is b j, K(b j ) = γ j maar ook e j co β(k(b i )) = γ j ; (6) co β (K(v)) = K β β co β(v) voor alle v V en dus ook voor v = b i, waarmee co β (v) = e i. Gevolg.2.53 De matrix ten opzichte van een orthonormale basis van een zelfgeadjungeerde lineaire transformatie is zelfgeadjungeerd. Na de geadjungeerde in de herinnering te hebben geroepen, zijn we in staat om normale lineaire transformaties te definiëren. Definitie.2.54 (Normale lineaire transformatie) Een lineaire transformatie L : V V van een inproductruimte (V, C,, ) heet normaal als waarbij staat voor de samenstelling van afbeelingen. L L = L L, (.57)

28 28 HOOFDSTUK. CANONIEKE VORMEN Definitie.2.55 (Normale matrix) Een matrix A C n n heet normaal als A A = AA. De normale matrices zijn via orthonormale bases gerelateerd aan normale transformaties. Lemma.2.56 Zij L : V V een lineaire transformatie van een inproductruimte (V, C,, ) en β een orthonormale basis van V. Dan is L normaal als en alleen als L β β normaal is. Bewijs. Als L β β de matrix is van L, dan geeft Lemma.2.52 dat (Lβ β ) de matrix is van L. Omdat daarnaast de matrix van een samengestelde afbeelding gelijk is aan het product van de matrices van de samenstellende afbeeldingen, volgt de bewering onmiddellijk. We bewijzen nu nog twee belangrijke hulpresultaten, Lemma s.2.57 en.2.58, voor normale matrices, die resulteren in de spectraalstelling voor normale matrices en transformaties. Lemma.2.57 A C n n is normaal als en alleen als iedere Schurvorm van A normaal is. Bewijs. Zij A = URU een Schurdecompositie van A. Dan is A = UR U en dus AA = (URU )(UR U ) = URR U en A A = (UR U )(URU ) = UR RU (.58) Dus A A = AA als en alleen als UR RU = URR U. En omdat U inverteerbaar is, is dit zo als en alleen als R R = RR. Lemma.2.58 Iedere normale bovendriehoeksmatrix R C n n is een diagonaalmatrix. Bewijs. Met volledige inductie. Voor n = is de uitspraak triviaal waar. Neem als inductiehypothese aan dat de uitspraak geldt voor iedere bovendriehoeksmatrix T C (n ) (n ). Laat R C n n een bovendriehoeksmatrix zijn, en schrijf R R = RR gepartitioneerd uit als [ [ [ [ ρ ρ r ρ r ρ r T = T T r T (.59) waarbij ρ C, r C n en T C (n ) (n ) bovendriehoeks. behulp van Lemma.2.2 geeft dat [ [ ρρ ρr ρρ + r r r T rρ rr + T = T T r T T Uitvermenigvuldigen met (.6) Dus is ρρ = ρρ + r r, dus r r = en volgt uit de inproduct-axioma s dat r =. Maar dan is ook rr =, dus is T T = T T, en dus is T volgens de inductiehypothese diagonaal. Stelling.2.59 (Spectraalstelling: normale matrices) Er is een unitaire matrix U zodanig dat U AU = Λ een diagonaalmatrix is als en alleen als A C n n normaal is. Bewijs. Zij A C n n normaal. Omdat C algebraïsch afgesloten is, bestaat er een volgens Stelling.2.4 een Schurdecompositie A = URU van A met U unitair en R bovendriehoeks. Lemma.2.57 geeft dat R net als A normaal is, en Lemma.2.58 bewijst vervolgens dat R een diagonaalmatrix is. Veronderstel omgekeerd dat A = UΛU met U unitair en Λ diagonaal, dan geldt dat A = UΛ U en dus dat A A = (UΛ U )(UΛU ) = U(Λ Λ)U = U(ΛΛ )U = (UΛU )(UΛ U ) = AA (.6)

29 .2. TRIANGULATIESTELLINGEN VOOR LINEAIRE TRANSFORMATIES 29 waarbij we gebruikten dat diagonaalmatrices triviaal normaal zijn. Dus is A normaal. Spectraalstelling.2.59 is van centraal belang binnen de lineaire algebra. Het vertelt exact welke lineaire transformaties L : V V van een inproductruimte (V, C,, ) ten opzichte van een geschikt gekozen orthonormale basis β van V een diagonaalgedaante L β β aannemen. Stelling.2.6 (Spectraalstelling: normale transformaties) Laat L : V V een lineaire transformatie van een inproductruimte (V, C,, ) zijn. Dan bestaat er een orthonormale basis β waarvoor L β β een diagonaalmatrix is als en alleen als L normaal is. Bewijs. Veronderstel dat L normaal is, en laat γ = c,..., c n een orthonormale basis van V zijn. Volgens Lemma.2.56 is L γ γ dan een normale matrix. Op grond van Stelling.2.59 bestaat er een unitaire matrix U zodanig dat U L γ γu diagonaal is. De kolommen van U vormen dus een orthonormale basis van eigenvectoren van L γ γ. Zoals bekend is iedere eigenvector van L γ γ de coördinaatvector co γ (v) van een eigenvector v van L. Dus is voor iedere j {,..., n} is de vector b j V gedefinieerd door u n... u n b j = u j c + + u nj c n = u ij c i, voor U =.. (.62) i= u n... u nn een eigenvector van L. Daarnaast is ook β = b,..., b n een orthonormale basis van V, omdat voor alle i, j {,..., n} geldt b i, b j = u i c + + u ni c n, u j c + + u nj c n = u i u j + + u ni u nj = e i U Ue j. (.63) Dus is L β β diagonaal, en zelfs gelijk aan U L γ γu. Dit bewijst één van beide implicaties. De andere implicatie is een eenvoudige oefening. De volgende spectraalstelling gaat over de deelverzameling van zelfgeadjungeerde matrices; hiervoor kan een sterker resultaat worden bewezen dan voor normale matrices, in de zin dat de diagonaalmatrix reële entries heeft, welke corresponderen met reële eigenwaarden. Stelling.2.6 (Spectraalstelling: zelfgeadjungeerde matrices) Er bestaat een unitaire matrix U zodanig dat U AU = Λ een reële diagonaalmatrixis als en alleen als A C n n zelfgeadjungeerd is. Bewijs. Laat A C n n met A = A. Dan is A normaal en bestaat er volgens Stelling.2.59 een unitaire matrix U en een diagonaalmatrix Λ zo, dat U AU = Λ. Dus is A = UΛU, en is A = UΛ U. Maar omdat A = A volgt hieruit dat Λ = Λ, en dus is de diagonaal reëel. Omgekeerd is triviaal A = A zodra A = UΛU met U unitair en Λ reëel diagonaal. Stelling.2.62 (Spectraalstelling: zelfgeadjungeerde transformaties) Laat L : V V een lineaire transformatie van een inproductruimte (V, C,, ) zijn. Dan is er een orthonormale basis β waarvoor L β β reël diagonaal is als en alleen als L zelfgeadjungeerd is. Bewijs. Volledig analoog aan het bewijs van Stelling.2.6, met als toevoeging dat uit Stelling.2.6 volgt dat de eigenwaarden van L reëel zijn. Tot slot bewijzen we de spectraalstellingen voor unitaire afbeeldingen en matrices.

30 3 HOOFDSTUK. CANONIEKE VORMEN Definitie.2.63 (Unitaire lineaire transformatie) Een lineaire transformatie L : V V van een inproductruimte (V, C,, ) heet unitair als L L = id = L L, waarbij id : V V staat voor de identieke afbeelding. Opmerking.2.64 De karakterisering L L = id is equivalent met (L L)(v), w = v, w (.64) voor alle v, w V, en met behulp van de definitie van geadjungeerde transformatie met L(v), L(w) = v, w (.65) voor alle v, w V, wat laat zien dat L hoeken en afstanden behoudt. Definitie.2.65 Een getal z C heet unimodulair als z =. Stelling.2.66 (Spectraalstelling: unitaire matrices) Er bestaat een unitaire matrix U en een diagonaalmatrix Λ met unimodulaire diagonaalentries zodanig dat A = UΛU als en alleen als A C n n unitair is. Bewijs. Laat A C n n met A A = I. Dan is A normaal en bestaat er volgens Stelling.2.59 een unitaire matrix U en een diagonaalmatrix Λ zo, dat U AU = Λ. Dus is A = UΛU, en is A = UΛ U. Maar omdat AA = I volgt hieruit dat ΛΛ = I, en dus geldt voor een diagonaalentry λ van Λ dat λλ =. Dus is λ =. Omgekeerd is triviaal A A = I zodra A = UΛU met U unitair en Λ diagonaal met unimodulaire diagonaalentries. Stelling.2.67 (Spectraalstelling: unitaire transformaties) Laat L : V V een lineaire transformatie van een inproductruimte (V, C,, ) zijn. Dan is er een orthonormale basis β waarvoor L β β diagonaal is met unimodulaire diagonaalentries als en alleen als L unitair is. Bewijs. Volledig analoog aan het bewijs van Stelling.2.6, met als toevoeging dat uit Stelling.2.66 volgt dat de eigenwaarden van L unimodulair zijn..3 De Jordannormaalvorm van een lineaire transformatie We zagen in Sectie.2 dat iedere lineaire transformatie L : V V van een vectorruimte (V, K) over een algebraïsch afgesloten lichaam K op bovendriehoeksvorm kan worden gebracht. Dit betekent dat voor iedere A K n n er een X GL n (K) bestaat met X AX = R bovendriehoeks. We gaan dit resultaat aanscherpen middels verdere gelijkvormigheidstransformaties toegepast op bovendriehoeksmatrices. Eerst herinneren we aan de elementaire gelijkvormigheidstranformaties uit Sectie..2. Lemma.3. Gegeven een bovendriehoeksmatrix R K n n en h K en k n. Laat T = Dk n (h) R Dk n (h). (.66) Dan kan T = (t ij ) alleen afwijken van R in entries t k,..., t k,k en entries t k,k+,..., t kn. Links in Figuur 2. illustreren we het effect van een gelijkvormigheidstransformatie met D n k (h). Alleen in de donkere delen van de k-de rij en de k-de kolom kunnen entries veranderen.

31 .3. DE JORDANNORMAALVORM VAN EEN LINEAIRE TRANSFORMATIE 3 Voorbeeld.3.2 Beschouw de gelijkvormigheidstransformatie van een bovendriehoeksmatrix met D22 4 (2) 2 D22(2) 4 D22(2) 4 = 2 2. De tweede kolom en de tweede rij worden hierdoor respectievelijk vermenigvuldigd met 2 en 2. Dit verandert de entries boven en rechts naast de positie (2, 2). Lemma.3.3 Gegeven een bovendriehoeksmatrix R K n n en h K en k < l n. Laat T = Ekl n (h) R Ekl n (h). (.67) Dan kan T = (t ij ) alleen afwijken van R in entries t l,..., t k,l en entries t k,l+,..., t kn. Bewijs. De vermenigvuldiging S = REkl n (h) is de kolom-operatie K l K l + hk k. Omdat R bovendriehoeks is, verandert dit hooguit de bovenste k entries van K l. De vermenigvuldiging ( h)s verandert evenzo hooguit de laatste n l entries in rij k. E n kl Voorbeeld.3.4 Beschouw de gelijkvormigheidstransformatie van een bovendriehoeksmatrix met de elementaire matrix E 4 24 (), E24() E 4 24() = De rechtsvermenigvuldiging correspondeert met K 4 K 4 +K 2, de linksvermenigvuldiging met R 2 R 2 R 4. Hierdoor veranderen de entries op en boven positie (2, 4). Figuur 2. rechts illustreert het effect van een gelijkvormigheidstransformatie met E n kl (h). Alleen de entries in het donkere deel van de k-de rij en l-de kolom kunnen veranderen. In het bijzonder is het effect van de transformatie op de entry r kl op positie (k, l) aangegeven.. k D n k (h) k E n kl (h) l k D n k (h) } h } h k +h h r kl r kl + h(r kk r ll ) E n kl (h) l D n k (h) R D n k (h) E n kl (h) R E n kl (h) Figuur 2. Elementaire gelijkvormigheidstransformaties van een bovendriehoeksmatrix R.

32 32 HOOFDSTUK. CANONIEKE VORMEN Lemma.3.5 Gegeven een bovendriehoeksmatrix R K n n en k < l n. Laat T = Π kl R Π kl. (.68) Dan kan T = (t ij ) alleen afwijken van R in t m,..., t lm en t mk,..., t mn met m {k, l}. Opmerking.3.6 Dus R en T verschillen hooguit in de entries t ij in de k-de en l-de rij en kolom, maar niet als i < k of j > l. In het algemeen is T niet bovendriehoeks. Voorbeeld.3.7 Beschouw de gelijkvormigheidstransformatie van een bovendriehoeksmatrix met Π 4 23 ( ) Π 4 23 Π 4 23 = De tweede en derde kolom worden verwisseld, en de tweede en derde rij. Na de gelijkvormigheidstransformatie in Voorbeeld.3.4 is de (2, 4)-entry gelijk is aan nul. We onderzoeken nu wanneer we welke entries in de bovendriehoek naar nul kunnen transformeren met behulp van de gelijkvormigheidstransformaties met matrices van type E n kl (h). Opmerking.3.8 Het is niet mogelijk om het aantal nullen in een matrix te veranderen met elementaire gelijkvormigheidstransformaties met matrices van de types D n k (h) en Πn kl..3. Gerichte gelijkvormigheidstransformaties met E n ij(h) Het volgende lemma verwoordt het resultaat van Voorbeeld.3.4 in zijn volle algemeenheid. Lemma.3.9 Gegeven een bovendriehoeksmatrix (r ij ) = R K n n, h K en k < l n. Laat T = Ekl n (h) R Ekl n (h), (.69) en schrijf T = (t ij ). Dan geldt dat t kl = r kl + hr kk hr ll. (.7) Als bovendien r kk r ll en dan geldt dat t kl =. h = r kl r ll r kk, (.7) Bewijs. Rechtsvermenigvuldiging van R met Ekl n (h) telt h maal de k-de kolom van R op bij de l-de kolom, en dus in het bijzonder hr kk op bij r kl. Linksvermenigvuldiging met Ekl n ( h) trekt h maal de l-de rij af van de k-de rij, en dus in het bijzonder hr ll af van r kl + hr kk. Dit bewijst (.7). De bewering over de keuze van h in (.7) is vervolgens eenvoudig. Opmerking.3. Als (r ij ) = R K n n bovendriehoeks is en r kk = r ll voor zekere k < l dan volgt uit (.7) dat met (t ij ) = T = E n kl (h) RE n kl (h) dat t kl = r kl voor alle h K. Voorbeeld.3.4 was al een goede illustratie van Lemma.3.9, want het transformeerde de (2, 4)-entry naar nul. We proberen nu ook de (2, 3)-entry naar nul te transformeren.

33 .3. DE JORDANNORMAALVORM VAN EEN LINEAIRE TRANSFORMATIE 33 Voorbeeld.3. Beschouw de matrix die resulteerde in het rechterlid in Voorbeeld.3.4. De entry op positie (2, 3) is gelijk aan. Met h = /(3 2) = als in (.7) volgt E23() E4 23() = (.72) en in overeenstemming met Lemma.3.9 is de entry op positie (2, 3) gelijk aan nul. De entry erboven en er rechts naast zijn ook veranderd. Lemma.3.3 gaf al aan dat dit kan gebeuren. Opmerking.3.2 Merk op dat de (4, 2)-entry, die we in Voorbeeld.3.4 naar nul hadden getransformeerd, na de transformatie in Voorbeeld.3. weer ongelijk is aan nul! Lemma.3.3 laat zien in welke volgordes de transformaties kunnen worden toegepast om nullen te creëren op alle posities (i, j) in een bovendriehoeksmatrix R waarvoor r ii r jj. Stelling.3.3 Zij R = (r ij ) K n n een bovendriehoeksmatrix, en laat U(R) = {(i, j) {,..., n} {,... n}, i < j r ii r jj }. (.73) Er bestaat een volgorde (i, j ),..., (i p, j p ) van de p elementen van U(R) en een keuze van getallen h,..., h p K zo, dat met het product X = E n i j (h )... E n i pj p (h p ) (.74) geldt dat X RX = T, met T = (t ij ), (.75) een bovendriehoeksmatrix is waarvoor t ij = voor alle (i, j) U(R). Bewijs. Het volstaat een volgorde (i, j ),..., (i p, j p ) te kiezen waarin voor ieder tweetal opeenvolgende posities (i q, j q ) en (i q+, j q+ ) geldt dat j q < j q+ of i q > i q+. Hieruit volgt immers dat als q < r dan j q < j r of i q > i r. In beide gevallen zal volgens Lemma.3.3 een gelijkvormigheidstransformatie Ei n rj r (h) de entry op positie (i q, j q ) niet veranderen. In het bijzonder zal dus iedere tranformatie een nul creëren, die daarna niet meer zal verdwijnen. Het volgende algoritme illustreert een volgorde als genoemd in het bewijs van Stelling.3.3. Algoritme.3.4 Laat R K n n en schrijf U = U(R). Selecteer (i, j) U met i maximaal, en als er daar meerdere van zijn, met j minimaal. Pas een transformatie toe om de (i, j)-entry naar nul te transformeren. Verwijder (i, j) uit U en herhaal het proces tot U leeg is. Vanaf nu zullen we vaak een gelijkvormigheidstransformatie B = X AX noteren met A X B om op die manier wat meer transformaties naast elkaar op dezelfde bladzijde te krijgen.

34 34 HOOFDSTUK. CANONIEKE VORMEN Voorbeeld.3.5 We illustreren Stelling.3.3 met de matrix R uit Voorbeeld.3.4, R = , waarvoor U(R) = {(, 3), (, 4), (2, 3), (2, 4)}. De door Algoritme.3.4 gegeven volgorde is (2, 3), (2, 4), (, 3), (, 4). De respectievelijke elementaire gelijkvormigheidstransformaties geven we schematisch weer als R = E4 23 () E4 3 (2) E4 4 ( ) = T. Omdat de entry op positie (2, 4) toevallig al nul is na toepassing van E23 4 (), is de transformatie E24 4 (h 2) = I hier weggelaten. Het product X van de transformatiematrices is X = E 4 23() E 4 24() E 4 3(2) E 4 4( ) = en met deze X is X RX dus gelijk aan T. Een gevolg van Stelling.3.3 is een bekend resultaat. 2 (.76) Gevolg.3.6 Als alle eigenwaarden van R verschillen dan geeft Algoritme.3.4 een X zo, dat X RX = Λ een diagonaalmatrix is. Dus Algoritme.3.4 diagonaliseert R. Voorbeeld.3.7 Laat R gegeven zijn door R = en dus U(R) = {(, 2), (, 3), (2, 3)}. (.77) De door Algoritme.3.4 gegeven volgorde voor de elementaire gelijkvormigheidstransformaties is (2, 3), (, 2), (, 3). We vinden: R = E3 23 (3) met als bijbehorende transformatiematrix E3 2 (2) X = E23(3) 3 E2(2) 3 E3( ) = E3 3 ( 9 2 ) = Λ, (.78), (.79) waarvoor het eenvoudig te verifiëren is dat RX = XΛ de matrix R diagonaliseert.

35 .3. DE JORDANNORMAALVORM VAN EEN LINEAIRE TRANSFORMATIE 35 Opmerking.3.8 Zowel de matrix X = (x ij ) in (.76) als de matrix X = (x ij ) in (.79) heeft de eigenschap dat x iqjq = h q voor alle (i q, j q ) U(R). Dit is geen toeval. Immers, Algoritme.3.4 geeft een lijst entries (i, j ),..., (i p, j p ) met bijbehorend product X van transformatiematrices X = E n i j (h )... E n i pj p (h p ) = (I n + e i e j )... (I n + e ip e j p ) (.8) Als q < r geldt voor de paren indices (i q, j q ) en (i r, j r ) dat i q < j q en i r < j r omdat ze corresponderen met posities boven de diagonaal. Daarnaast geldt of i q > i r, of i q = i r en j q < j r, per definitie van Algoritme.3.4. Hieruit volgt dat het uitvermenigvuldigen van het product in (.8) geldt dat X = I n + e i e j +... e ip e j p (.8) Immers, als i q > i r volgt uit i q < j q dat j q > i r. Anderzijds, als i q = i r dan volgt uit i q < j q ook dat i r = i q < j q. In beide gevallen is dus e j q e ir = en dus ook e iq e j q e ir e j r =. Voorbeeld.3.9 Voor n = 4 bewijst Opmerking.3.8 niets anders dan dat a b = d e f b c a c d e voor alle a, b, c, d, e, f K. f Overeenkomstige identiteiten gelden ook voor iedere andere waarde van n, als de matrices in deze door Algoritme.3.4 gegenereerde volgorde staan..3.2 Gerichte gelijkvormigheidstransformaties met Π kl Gelijkvormigheidstransformaties met elementaire matrices van het type Π kl kunnen worden ingezet om gelijke eigenwaarden naast elkaar op de diagonaal van R te positioneren. Het gevolg daarvan is dat de nullen boven de diagonaal in rechthoekige blokken terechtkomen. Voorbeeld.3.2 Gegeven de matrix R = , met U(R) = {(, 2), (, 4), (2, 3), (3, 4)}. (.82) Algoritme.3.4 geeft als transformatievolgorde (3, 4), (2, 3), (, 2), (, 4). De respectievelijke elementaire gelijkvormigheidstransformaties geven we schematisch weer als R E4 34 () E4 23 ( ) E4 2 () E4 4 ( )

36 36 HOOFDSTUK. CANONIEKE VORMEN Deze matrix kunnen we met een permutatie Π kl nu zo transformeren, dat gelijke eigenwaarden naast elkaar op de diagonaal komen te staan, Π (.83) De getransformeerde matrix is blok-diagonaal is en beide blokken op de diagonaal zijn bovendriehoeks. Het bijbehorende product X van de elementaire matrices is X = E34() 4 E23( ) 4 E2() 4 E4( ) 4 Π 4 23 = Π 4 23 =. Merk op dat X zelf geen bovendriehoeksmatrix meer is. Opmerking.3.2 De gelijkvormigheidstransformatie met Π 23 kan al toegepast worden zodra de entry op positie (2, 3) gelijk is aan nul. Immers, dan is het resultaat al bovendriehoeks. Opmerking.3.22 Het is ook mogelijk om de volgorde van de diagonaalentries om te draaien in vergelijking tot (.83), middels Π 4 23Π 4 34Π Π 4 2Π 4 34Π 4 23 = Sterker nog, iedere volgorde van de getallen op de diagonaal kan worden bewerkstelligd. Bovenstaand voorbeeld met opmerkingen geeft aanleiding tot de volgende stelling. Lemma.3.23 Laat (r ij ) = R K n n bovendriehoeks zijn, en k zo dat r kk r k+,k+. Dan is T = Π k,k+ En k,k+ (h) R Ek,k+ n (h) Π r k,k+ k,k+ met h = (.84) r k+,k+ r kk bovendriehoeks met t kk = r k+,k+ en t k+,k+ = r kk. Bewijs. De gelijkvormigheidstransformatie met Ek,k+ n (h) creëert een nul op positie (k, k+), waarna verwisseling van rijen k en k + en kolommen k en k + de beide diagonaalentries r kk en r k+,k+ verwisselt. De entries op posities (k, k + ) en (k +, k) zijn en blijven nul. Lemma.3.23 wordt geïllustreerd in het volgende eenvoudige voorbeeld. Voorbeeld.3.24 Zie hoe R naar T wordt getransformeerd in R = 2 2 E3 23 ( 2) 2 Π = T (.85) en dat de volgorde, 2, van de diagonaalentries van R is veranderd in,, 2 voor T.

37 .3. DE JORDANNORMAALVORM VAN EEN LINEAIRE TRANSFORMATIE 37 We kunnen nu een van de hoofdresultaten uit deze sectie formuleren. Stelling.3.25 Laat R K n n bovendriehoeks zijn met verschillende eigenwaarden λ,..., λ p met respectievelijke algebraïsche multipliciteiten m,..., m p. Dan bestaat er een X GL n (K) zodanig dat T.... X T.. RX = = T, (.86)..... T p waarbij T j een m j m j bovendriehoeksmatrix is met alle diagonaalentries gelijk aan λ j. Bewijs. Laat k het kleinste gehele getal zijn waarvoor r kk = λ. Dan zijn in het bijzonder r,..., r k,k allemaal ongelijk aan r kk. Pas nu Lemma.3.23 toe om de entries op posities (k, k) en (k, k ) te verwisselen, vervolgens nogmaals om de entries op posities (k, k ) en (k 2, k 2) te verwisselen, enzovoorts, totdat λ op positie (, ) staat. Doe nu hetzelfde met de overige diagonaalentries die gelijk zijn aan λ, dan met alle diagonaalentries die gelijk zijn aan λ 2, enzovoorts. Pas tot slot Stelling.3.3 toe om nullen te creëren op alle posities (k, l) waarvoor de entries op posities (k, k) en (l, l) verschillen. Dit geeft precies een matrix van de vorm T in (.86). In Sectie.3.4 bestuderen we verdere transformaties van de matrices T,..., T p uit Stelling Eerst besteden we Sectie.3.3 aan de beschrijving van het beoogde doel..3.3 De klasse van nilpotente Jordanvormen In deze sectie introduceren we de matrices die uiteindelijk als bouwstenen zullen fungeren voor de eenvoudigste matrix J die gelijkvormig is met een gegeven A K n n. Definitie.3.26 (Nilpotente Jordanvorm) Een matrix (s ij ) = S K n n waarvoor iedere entry die ongelijk aan is, gelijk is aan en direct boven de diagonaal op een positie (i, i + ) staat, oftewel, noemen we een nilpotente Jordanvorm. s ij j = i + en s ij =, (.87) Definitie.3.27 (Nilpotent Jordanblok) De nilpotente Jordanvorm in K n n met n entries gelijk aan heet het nilpotente Jordanblok, en wordt genoteerd als N n. Opmerking.3.28 Voor n = is de matrix N = [ het nilpotente Jordanblok. Opmerking.3.29 Er bestaan precies 2 n nilpotente Jordanvormen in K n n, want iedere entry op positie (i, i+) wordt gekozen uit {, }. Er is precies één n n nilpotent Jordanblok. Voorbeeld.3.3 Voor n = 4 bestaan er dus precies acht nilpotente Jordanvormen, te weten,,,,

38 38 HOOFDSTUK. CANONIEKE VORMEN,, De matrix rechtsonder is het 4 4 nilpotente Jordanblok N 4.,. Opmerking.3.3 Een nilpotente Jordanvorm S K n n beeldt iedere standaardbasisvector e k af op of op e k. In het bijzonder is Se =. Hieruit volgt direct dat S n =, en dus dat S inderdaad nilpotent is. Het grootste gehele getal p waarvoor S p, de nilpotentieindex van S, is gelijk aan het grootste aantal naast elkaar staande enen op posities (i, i + ). Het nilpotente Jordanblok is dus de enige nilpotente Jordanvorm met nilpotentie-index n. Lemma.3.32 Voor het nilpotente Jordanblok N t K t t geldt dat voor alle j {,..., t}, en ker(n j t ) = Kt voor alle j t. ker(n j t ) = span{e,..., e j } (.88) Bewijs. De matrix N t beeldt de standaardbasisvectoren van K t als volgt op elkaar af, e t N t et N t N... t e N t. (.89) Dus N j t beeldt e k af op als k j, en op e k j als k > j. Voorbeeld.3.33 Bovenstaand lemma wordt geïllustreerd door N 4 =, N4 2 =, N4 3 = en hogere machten van N 4 zijn uiteraard ook gelijk aan nul., N 4 4 = Iedere nilpotente Jordanvorm is als volgt opgebouwd uit nilpotente Jordanblokken. Lemma.3.34 Elke nilpotente Jordanvorm S K n n heeft een blokpartitionering als N t.... N... S = t N tp (.9) met nilpotente Jordanblokken N t,..., N tp op de diagonaal, en nullen buiten deze blokken. Bewijs. Laat i < < i p = n de indices zijn van de rijen in S die gelijk aan nul zijn. Laat i = en definieer t j = i j i j voor alle j {,..., p}. Dan is S van de vorm (.9). Opmerking.3.35 De blokpartitionering van S ontstaat derhalve door onder iedere rij nullen een horizontale streep te zetten, en links van iedere kolom nullen een verticale streep.

39 .3. DE JORDANNORMAALVORM VAN EEN LINEAIRE TRANSFORMATIE 39 Voorbeeld.3.36 We illustreren Lemma.3.34 middels het blokpartitioneren van vier van de matrices uit Voorbeeld.3.3 en en en. met respectievelijke diagonaalblokken N 2, N, N en N, N 2, N en N, N 3 en N 2, N 2. We introduceren nu eerst wat nieuwe terminologie, die resultaten compacter helpt verwoorden. Partities en de partitiefunctie spelen een grote rol binnen de wiskunde. Definitie.3.37 (Partitie(-functie)) Laat n N. Een partitie τ van n N, notatie τ n, is een tupel τ = [t,..., t k van getallen t,..., t k N zo, dat n = t + + t k met t t k. (.9) De getallen t,..., t k heten de delen van n, en k n is de lengte van de partitie. De functie p : N N die aan n het aantal partities p(n) van n toevoegt heet de partitiefunctie. Voorbeeld.3.38 De volgende tupels zijn alle verschillende partities van 5, en dus is p(5) = 7. [5, [4,, [3, 2, [3,,, [2, 2,, [2,,,, [,,,,, Partities kunnen inzichtelijk worden gevisualiseerd met behulp van Young tableaus. Definitie.3.39 (Young tableau) Het Young tableau van een partitie τ = [τ,..., τ p n is een afbeelding bestaande uit n vierkanten van gelijke grootte. Deze zijn verdeeld over p aansluitende rijen, met τ j aansluitende vierkanten links uitgelijnd naast elkaar in rij j. Figuur 2.2 Young tableaus van de zeven partities van n = 5. Sommige paren van Young tableaus zijn elkaars gespiegelde in de hoofddiagonaal. Definitie.3.4 (Geconjugeerde partitie) Laat τ = [τ,..., τ p n N. Voor iedere j {,..., n}, schrijf τj voor het aantal delen van τ dat groter dan of gelijk is aan j. De positieve getallen τ,..., τ q vormen de geconjugeerde partitie τ = [τ,..., τ q n van τ. Voorbeeld.3.4 Beschouw de partitie τ = [2, 2, 5. Alledrie de delen zijn groter dan of gelijk aan, dus τ = 3. Alleen het eerste en tweede deel zijn groter dan of gelijk aan 2 dus τ2 = 2. Er zijn geen delen groter dan twee. Dus τ = [3, 2 is de geconjugeerde partitie van τ.

40 4 HOOFDSTUK. CANONIEKE VORMEN Eenvoudig gesteld telt τ het aantal vierkanten per kolom in het Young diagram van τ. Als gevolg hiervan is het Young diagram van τ de gespiegelde van het Young diagram van τ. τ = [2, 2, τ = [3, 2 conjugatie Figuur 2.3 Young tableaus van geconjugeerde partities zijn elkaars gespiegelde. We gaan nu in op de vraag wat partities te maken hebben met nilpotente Jordanvormen. Definitie.3.42 (Type nilpotente Jordanvorm) De aflopend gesorteerde groottes van de Jordanblokken op de diagonaal van de volgens (.9) gepartitioneerde nilpotente Jordanvorm S K n n vormen een partitie τ n. Deze partitie heet het type van S. Voorbeeld.3.43 De acht matrices in Voorbeeld.3.3 hebben de volgende types, [,,, [2,, [2,, [2,, [3, [2, 2 [3, [4 waarbij de types op de overeenkomstige positie staan genoteerd als de matrices. Opmerking.3.44 Het type τ n van het n n Jordanblok N n is de partitie τ = [n. Lemma.3.45 Zij S K n n een nilpotente Jordanvorm van type τ met geconjugeerde τ. Dan is τl het aantal nilpotente Jordanblokken van S van afmetingen l l of groter. Stelling.3.46 Laat S K n n een nilpotente Jordanvorm zijn van type τ n. Dan geldt dat dim(ker(s l )) = τ + + τ l (.92) voor alle l q, waarbij τ = [τ,..., τ q de geconjugeerde van τ is. Bewijs. Laat l {,..., q} gegeven zijn. Wegens de blokvorm van S in (.9) geldt dat S l v = als en alleen als N l t j v j = voor alle j {,..., p}, waarbij v j bestaat uit de entries van v die in dezelfde rijen staan als N tj. In het bijzonder geldt dus dat dim(ker(s l )) = dim(ker(n l t )) + + dim(ker(n l t p )). (.93) Lemma.3.32 geeft dat dim(ker(nt l j )) gelijk is aan het minimum van t j en l. Dus, dim(ker(nt l j )) is precies dan groter dan dim(ker(nt l j )) als het blok N tj afmetingen l l of groter heeft, oftewel, als t j l. Dus dim(ker(s l )) dim(ker(s l )) is gelijk aan het aantal nilpotente Jordanblokken N tj van S met t j l, en dus volgens Lemma.3.45 gelijk aan τ l. Een eenvoudig inductieargument bewijst nu de bewering. Voorbeeld.3.47 Bekijk de machten van de nilpotente Jordanvorm S van type τ = [3, 2, S =, S2 =, S3 =, dan is τ = [2, 2, en zien we dat dim(ker(s)) = τ = 2, dim(ker(s2 )) = τ + τ 2 dim(ker(s 3 )) = τ + τ 2 + τ 3 = 5. Dit illustreert de uitspraak van Stelling = 4, en

41 .3. DE JORDANNORMAALVORM VAN EEN LINEAIRE TRANSFORMATIE 4 e 3 S e 2 S e S ker(s ) = span{e, e 4 } ker(s 2 ) = span{e, e 4, e 2, e 5 } e 5 e 4 S S ker(s 3 ) = span{e, e 4, e 2, e 5, e 3 } Figuur 2.4 Illustratie horend bij Voorbeeld Reden dat we het concept type van een Jordanblok introduceren, is de volgende stelling. Stelling.3.48 Gegeven nilpotente Jordanvormen S, T K n n met types σ n en τ n. Dan zijn S en T gelijkvormig als en alleen als σ = τ. Bewijs. Veronderstel dat σ τ. Dan is ook σ τ en bestaat er dus een l N zo, dat dim(ker(s l )) = σ + + σ l τ + + τ l = dim(ker(t l )). (.94) Hieruit volgt dat S l en T l niet gelijkvormig zijn, en dus S en T ook niet. Immers, als B = X AX dan is B l = (X AX) l = X A l X, en als b,..., b q een basis is voor ker(b l ) dan is Xb,..., Xb q een basis voor ker(a l ). Omgekeerd, veronderstel dat σ = τ. Dan bestaat er een permutatie Π GL n (K) zodanig dat B = Π AΠ. Voor details, zie Lemma Lemma.3.49 (Blokpermutatie) Zij X K n n en k + l = n. Blokpartitioneer X als [ A B X = C D waarbij A K k k en D K l l. Dan geldt dat [ Π D C XΠ = waarbij Π = B A [ Il I k. Bewijs. De rechtsvermenigvuldiging met Π zet kolommen l +,..., n voor de kolommen,..., k, en de linksvermenigvuldiging met Π doet hetzelfde met de rijen. Opmerking.3.5 Iedere permutatiematrix Π is unitair, en dus is Π = Π. We laten nu zien dat iedere nilpotente matrix gelijkvormig is met een nilpotente Jordanvorm..3.4 Gelijkvormigheidstransformaties van stricte bovendriehoeksmatrices Ieder van de bovendriehoeksmatrices T,..., T p in (.86) heeft de eigenschap dat de entries op de diagonaal allemaal hetzelfde zijn. Deze matrices zijn dus van de vorm T l = λ l I l + M l (.95) voor zekere λ l K, en waarbij M l een stricte bovendriehoeksmatrix is. Definitie.3.5 (Stricte bovendriehoeksmatrix) Een bovendriehoeksmatrix (r ij ) = R K n n heet strict als r jj = voor alle j {,..., n}.

42 42 HOOFDSTUK. CANONIEKE VORMEN Merk op dat alle eigenwaarden van een stricte bovendriehoeksmatrix gelijk zijn aan nul. Opmerking.3.52 Als M K n n strict bovendriehoeks is en T = λi + M voor zekere λ K, dan is voor iedere X GL n (K), X T X = λi + X MX. (.96) Als ook X T X bovendriehoeks is, zijn al zijn diagonaalentries gelijk aan λ. Immers, de eigenwaarden van T en X T X zijn gelijk. In dat geval is X MX strict bovendriehoeks. Om gelijkvormigheidstransformaties van matrices T = λi + M met M strict bovendriehoeks te begrijpen volstaat het dus om die van M te begrijpen. Stelling.3.53 (Jordan) Laat M K n n strict bovendriehoeks zijn. Dan bestaat er een X GL n (K) zo, dat S = X MX een nilpotente Jordanvorm is. Bewijs. Het volgende eenvoudige voorbeeld bewijst deze stelling voor n = 2, en doet als zodanig dienst als inductiebasis. Voorbeeld.3.54 Laat M K 2 2 strict bovendriehoeks zijn. Dan is M van de vorm [ k M = met k K. Als k = dan is M een nilpotente Jordanvorm van type τ = [,. Als k dan is D 2 ( k ) MD 2 ( [ [ [ [ k k ) = = = S (.97) k k en is S een nilpotente Jordanvorm van type τ = [2, oftewel, het 2 2 nilpotente Jordanblok. Inductiehypothese. Veronderstel dat als ˆM K (n ) (n ) strict bovendriehoeks is, er een Y GL n (K) bestaat zo, dat Y ˆMY = Ŝ een nilpotente Jordanvorm is. Eerste deel Inductiestap. Laat M K n n strict bovendriehoeks zijn. Dan kunnen we M blok-partitioneren als M = [ ˆM b, met ˆM K (n ) (n ) Volgens de inductiehypothese bestaat er een Y GL n (K) zo, dat [ Y M [ Y = [ S c strict bovendriehoeks en b K n. waarbij c = Y b, (.98) en S = Y ˆMY een nilpotente Jordanvorm is van ˆM. De taak die resteert is om de matrix in (.98), die op de laatste kolom na in de gewenste vorm staat, nog verder te transformeren. Tweede deel Inductiestap. We laten nu zien hoe we de entry c k van c naar nul kunnen transformeren als er op positie (k, k + ) in Ŝ een staat.

43 .3. DE JORDANNORMAALVORM VAN EEN LINEAIRE TRANSFORMATIE 43 Lemma.3.55 Veronderstel dat S = (s ij ) een nilpotente Jordanvorm is met s k,k+ =. Dan geldt na de transformatie [ [ S c E n k+,n ( c k ) S ĉ (.99) dat ĉ j = c j voor alle j k en ĉ k =. Bewijs. De linksvermenigvuldiging met Ek+,n n ( c k) telt een veelvoud van de n-de rij op bij de (k + )-ste rij. Echter, de n-de rij is nul en dit verandert dus niets aan de matrix. De rechtsvermenigvuldiging met Ek+,n n ( c k) trekt c k maal de (k +)-ste kolom af van de n-de kolom. Maar die (k + )-ste kolom is gelijk aan e k. Dit bewijst de bewering. Lemma.3.55 wordt duidelijk geïllustreerd door het volgende voorbeeld. Voorbeeld.3.56 Wegens de enen op posities (, 2) en (3, 4) kunnen de eerste en derde entry van de laatste kolom met behulp van Lemma.3.55 naar nul worden getransformeerd, 2 E ( ) 2 E ( 3) Omdat ieder van beide transformaties slechts één entry verandert, kunnen ze ook in omgekeerde volgorde worden toegepast met hetzelfde resultaat, er geldt namelijk X = E 5 25( )E 5 45( 3) = E 5 45( 3)E 5 25( ) en hiermee is X = 3 en X = 3 oftewel, de inverse kan weer eenvoudig worden bepaald. Derde deel Inductiestap. De uitgangssituatie is de matrix na herhaald toepassen van Lemma.3.55, zodat als de i-de entry van ĉ ongelijk is aan nul, de i-de rij van S gelijk is aan nul. Het volgende lemma ligt aan de basis van de resterende transformaties. Opmerking.3.57 Wegens Lemma.3.49 nemen we zonder verlies van algemeenheid aan, dat S in de vorm (.9) staat met oplopende blokgroottes t t p. Lemma.3.58 Zij S K n n een nilpotente Jordanvorm met nilpotente Jordanblokken in oplopende groottes van linksboven naar rechtsonder. Laat [ S d,

44 44 HOOFDSTUK. CANONIEKE VORMEN en neem aan dat elke entry van d = (d j ) die niet nul is, staat naast een rij van S die wel nul is. Laat l het grootste gehele getal zijn met d l. Veronderstel dat d l = en dat d k met k l. Dan is [ S d [ E n k,n (d k ) En k q+,n q (d k) S ˆd waarbij q de grootte is van het nilpotente Jordanblok waartoe de entry (k, k) van S behoort, en geldt dat ˆd j = d j voor alle j k en ˆd k =. Bewijs. Toepassing van Ek,n n (d k) maakt de (k, n)-entry gelijk aan nul, en de entry op positie (k, n ) gelijk aan d k als kolom k niet nul is. In dat geval zal Ek,n 2 n (d k) de entry op positie (k, n ) nul maken, maar de entry op positie (k 2, n 2) gelijk aan d k als kolom k 2 niet nul is. Omdat het aantal rijen van het nilpotente Jordanblok waar entry (l, l) toe behoort groter dan of gelijk is aan het aantal kolommen van het blok waar entry (k, k) toe behoort, zal in stap q met transformatiematrix Ek q+,n q n (d k) de entry d k op positie (k q +, n q) nul worden zonder verdere veranderingen., Opmerking.3.59 De aanname dat d l = is zonder verlies van algemeenheid. Als d l kan dit immers bewerkstelligd worden middels de transformatie D n (d l ). Lemma.3.58 laat zich goed uitleggen middels een voorbeeld. Hierin zijn de entries in de laatste kolom in beide nul-rijen ongelijk aan nul, oftewel, op posities (2, 6) en (5, 6). Voorbeeld.3.6 In termen van Lemma.3.58 is hier l = 5 en k = 2 en q = 2, en dus 2 E 6 25 (2) 2 E 6 4 (2) Toepassing van E25 6 (2) maakt weliswaar de (2, 5) entry gelijk aan nul, maar introduceert een 2 op positie (, 4) omdat de tweede kolom niet nul is. Toepassing van E4 6 (2) maakt deze entry weer nul. Echter, omdat de eerste kolom nul is, gebeurt er verder niets en is het doel bereikt. Opmerking.3.6 Het product X van de transformatiematrices X = E n kl (h ) E n k,l (h 2)... E n k t,l t (h t) kan, net als in Opmerking.3.8, direct worden opgeschreven.. Lemma.3.58 kan worden toegepast om op c l na iedere entry ongelijk aan nul in de laatste kolom, liggende in een nulrij, naar nul te transformeren. De entry c l = blijft als enige ongelijk aan nul over in de laatste kolom. Tot slot kan een blok-permutatie worden toegepast zo, dat deze aansluit bij het blok waar hij rechts naast ligt.

45 .3. DE JORDANNORMAALVORM VAN EEN LINEAIRE TRANSFORMATIE 45 Voorbeeld.3.62 Stel dat de laatste kolom op één entry na naar nul is getransformeerd, dan sluit een blokpermutatie deze entry aan op het Jordanblok waar hij bij hoort, zoals bijvoorbeeld Π met Π =. Er resulteert dus een nilpotente Jordanvorm van type τ = [3, 3. Hiermee is het inductiebewijs van Stelling.3.53 voltooid. We geven nu ook een volledig voorbeeld waarin alle stappen van het bewijs van Stelling.3.53 achter elkaar worden uitgevoerd op een expliciet gegeven 4 4 matrix. Voorbeeld.3.63 We bepalen inductief een nilpotente Jordanvorm van de gegeven matrix M. De eerste drie stappen liggen voor de hand, M = D4 2 ( 2 ) 4 E4 23 ( ) 5 E4 24 ( 3) 5. De eerste stap brengt het 2 2 linksbovenblok in Jordanvorm, de tweede stap het 3 3 linksbovenblok met Lemma.3.55, dat in de derde stap gebruikt wordt om entry (, 3) nul te maken. Omdat het grootste Jordanblok van de 3 3 matrix niet rechtsonder staat, permuteren we beide blokken, 5 Π 5 met Π = Vervolgens passen we Lemma.3.58 toe, waarbij l = 3, k = en q =, maar niet voordat we de entry op positie (3, 4) middels een diagonaalschaling naar hebben getransformeerd, 5 D4 4 ( 5 ) 5 E4 3 ( 5 ), en dit is derhalve een nilpotente Jordanvorm van M, met type τ = [3,. Om de bijbehorende transformatiematrix X uit te rekenen, berekenen we X = D 4 2( 2 ) E4 23( ) E 4 24( 3) Π D 4 4( 5 ) E4 3( 5 ). De eerste drie termen zijn eenvoudig samen te nemen, net als de laatste drie, wat resulteert in X = = Deze matrix X is dus zo, dat X MX een nilpotente Jordanvorm is.

46 46 HOOFDSTUK. CANONIEKE VORMEN Opmerking.3.64 Als X MX een nilpotente Jordanvorm is, is ook (λx) M(λX) dat voor alle λ K. Dus als K = Q dan kan een X met gehele entries worden gekozen..3.5 Jordanvormen en de Jordannormaalvorm van een matrix We koppelen nu de nilpotente Jordanvormen via Stelling.3.25 aan willekeurige matrices. Definitie.3.65 (Jordanvorm) Een matrix J K n n heet een Jordanvorm als J.... J.. J = waarbij J t K nt nt = λ t I t + S t (.)... J p voor iedere t {,..., p} en iedere matrix S t is een nilpotente Jordanvorm. Stelling.3.66 (Jordan) Zij K algebraïsch afgesloten. Iedere matrix A K n n is gelijkvormig met een Jordanvorm. Bewijs. Volgens Stelling.3.25 is A gelijkvormig met een blok-diagonaalmatrix met diagonaalblokken gelijk aan T t = λ t I + M t met M t strict bovendriehoeks. Volgens Stelling.3.48 bestaat er een inverteerbare X t zo, dat Xt M t X t = S t een nilpotente Jordanvorm is, en dus X... T... X... J.... X T X = J ,... X p... T p... X p... J p waarbij J t = λ t I t + S t. Definitie.3.67 (Jordannormaalvorm) Zij A K n n. Een Jordanvorm J die gelijkvormig is met A heet een Jordannormaalvorm van A..4 Opgaven Opgave.: Aanvulling tot een inverteerbare of zelfs unitaire 2 2 matrix (a) Bepaal voor ieder van de volgende vectoren uit C 2 een matrix X GL 2 (C) met een niet-triviaal veelvoud van die vector als eerste kolom. Geef daarnaast ook X. [ [ [ [ [ 3 2 u =, v =, w =, x =, y = i (b) Bepaal voor ieder van die vectoren een matrix U C 3 3 met orthonormale kolommen waarvan de eerste een niet-triviaal veelvoud is van de gegeven vector. Geef ook U.

47 .4. OPGAVEN 47 Opgave.2: Aanvulling tot een inverteerbare 3 3 matrix (a) Bepaal voor ieder van de volgende vectoren uit C 3 een matrix X GL 3 (C) met een niet-triviaal veelvoud van die vector als eerste kolom. Geef daarnaast ook X. 2 3 u =, v = 2, w =, x = 4 y = 2. 4 i 6 Opgave.3: 2 2 Jacobi-triangulatie en Schur-triangulatie (a) Bepaal voor ieder van de volgende matrices A j C 2 2 een matrix X j GL 2 (C) zo, dat A j X j = R j een bovendriehoeksmatrix is. X j A = [ [, A 2 = 2 [, A 3 = [, A 4 = (b) Bepaal voor iedere A j ook een unitaire U j zo, dat Uj A j U j = T j bovendriehoeks is.. (c) Verifieer dat T j 2 F = A j 2 F, met X 2 F de som van de kwadraten van de entries van X. Opgave.4: 3 3 Jacobi-triangulatie en Schur-triangulatie (a) Bepaal voor ieder van de volgende matrices A j C 3 3 een matrix X j GL 3 (C) zo, dat A j X j = R j een bovendriehoeksmatrix is. X j A = 3 5, A 2 = , A 3 = (b) Bepaal voor iedere A j ook een unitaire U j zo, dat Uj A j U j = T j bovendriehoeks is.. (c) Verifieer dat T j 2 F = A j 2 F, met X 2 F de som van de kwadraten van de entries van X. Opgave.5: Een 4 4 Jacobi-triangulatie Bepaal voor de matrix A = een matrix X GL 4 (C) zo, dat X AX = R bovendriehoeks is. Opgave.6: Unitaire matrices Laat U, V unitair zijn. Bewijs dat de matrices [ U UV,, en V [ 2 U U U U ook unitair zijn.

48 48 HOOFDSTUK. CANONIEKE VORMEN Opgave.7: Een spectraalstelling voor scheefsymmetrische matrices Formuleer en bewijs middels de Schurdecompositie een spectraalstelling voor scheefsymmetrische matrices. Herinner je dat A C n n scheefsymmetrisch is als A = A. Opgave.8: Schur-decompositie van een rang- matrix Laat e de eerste standaardbasisvector van C n zijn. (a) Laat zien dat er voor iedere u C n een unitaire U bestaat met U u = u e. Laat nu u, v C n ongelijk aan nul zijn en bekijk de rang- matrix A = uv. (b) Bepaal met behulp van U een Schurdecompositie van A. Opgave.9: Gelijkvormigheid versus unitaire equivalentie Matrices A, B C n n zijn gelijkvormig als er een inverteerbare X is waarvoor B = X AX, en unitair equivalent als er een unitaire X is waarvoor B = X AX. (a) Ga na dat beide begrippen een equivalentierelatie definiëren op C n n. (b) Laat zien dat unitair equivalente matrices gelijkvormig zijn. (c) Geef een voobeeld van twee gelijkvormige matrices die niet unitair equivalent zijn. (d) Laat zien dat gelijkvormige matrices dezelfde eigenwaarden hebben. Schrijf nu S A, S B voor de respectievelijke verzamelingen van Schurvormen van A, B C n n. (e) Als A en B unitair equivalent zijn, geldt dan dat S A = S B? (f) Als A en B gelijkvormig zijn, geldt dan dat S A = S B? (g) Als S A S B, zijn A en B dan unitair equivalent? Herinner je de definitie van de elementaire matrices D n k (h), En kl (h) en Π kl. Voor het schrijfgemak zullen we hier de superscripts n steeds weglaten. Opgave.: Elementaire gelijkvormigheidstransformaties met D k (h) en Π kl Bereken de volgende producten zonder de elementaire matrices uit te schrijven, en dus door het effect van deze matrices te interpreteren als elementaire rij- en kolomoperaties. D 2 ( 2 ) [ 2 Π 3 D 2 ( 2 ) en D 3( 2 ) D 2 ( 2 ) Π 3 en Π 23 Π D 2 ( 2 )D 3( ). (.) 2 Π 2 Π 23. (.2) Probeer in één keer de correcte productmatrix op te schrijven, dus zonder tussenresultaten.

49 .4. OPGAVEN 49 Opgave.: Elementaire gelijkvormigheidstransformaties met E kl (h) Bereken de volgende producten zonder de elementaire matrices uit te schrijven, en dus door het effect van deze matrices te interpreteren als elementaire rij- en kolomoperaties. 2 2 E 2 () 4 E 2 () en E 23 ( ) 4 E 23 ( ). (.3) 8 8 E 34 (π) 2 E 34(π) en E 24 ( ) 2 E 24( ). (.4) Probeer in één keer de correcte productmatrix op te schrijven, dus zonder tussenresultaten. Opgave.2: Diagonalisatie middels gelijkvormigheidstransformaties met E kl (h) Diagonaliseer ieder van de volgende matrices middels ten hoogste drie gelijkvormigheidstransformaties met een elementaire matrix van het type E kl (h). R = [ 6 3, R 2 = [ R 3 = [ Geef aan welke matrices E kl (h) achteraanvolgens worden toegepast, en geef hun product.. Opgave.3: Transformeren naar een deels gegeven vorm Geef aan welke elementaire gelijkvormigheidstransformaties op R i moeten worden toegepast om R i naar de gegeven vorm T i te transformeren. Bereken ook hun product. R = [ 2 3 R 3 = [ = T R 2 = [ = T 3. [ 2 3 = T 2. De getalswaarden van de sterretjes zijn willekeurig (en hoeven niet aan elkaar gelijk te zijn). Opgave.4: Transformeren naar een gegeven vorm Geef aan welke elementaire gelijkvormigheidstransformaties op R moeten worden toegepast om R naar de gegeven vorm T te transformeren. R = = T.

50 5 HOOFDSTUK. CANONIEKE VORMEN Opgave.5: Transformeren naar een gegeven Jordanvorm Geef aan welke elementaire gelijkvormigheidstransformaties op R i moeten worden toegepast om R i naar de gegeven vorm T j te transformeren. R = = T, R 2 = = T 2. R 3 = R 4 = Opgave.6: Transformeren naar een Jordanvorm = T 3. = T 4. Geef aan welke elementaire gelijkvormigheidstransformaties op R i moeten worden toegepast om R i naar een Jordanvorm J i te transformeren. Geef ook J i. 2 R = 3 2, R 2 =, R 3 = R 4 = , R 5 = Opgave.7: Partities en hun geconjugeerden (a) Geef alle partities τ 6, waarbij geconjugeerden onder elkaar staan. (b) Teken ook hun Young tableaus. (c) Geef voor iedere τ 6 een nilpotente Jordanvorm S van type τ. Opgave.8: Gelijkvormigheid van nilpotente Jordanvormen. (a) Gegeven de twee nilpotente Jordanvormen S = en S 2 =.

51 .4. OPGAVEN 5 Bewijs dat S en S 2 gelijkvormig zijn door een X GL 6 (C) te geven waarvoor X S X = S 2. (b) Gegeven de twee nilpotente Jordanvormen S = en S 2 = Bewijs vanuit de definitie van gelijkvormigheid dat S en S 2 niet gelijkvormig zijn. Opgave.9 Gegeven zijn de matrices 2 M =, M 2 = 2 2, M 3 = 2 (a) Bepaal een X j GL 3 (C) zo, dat Xj M j X j = S j een nilpotente Jordanvorm is. Opgave.2 Een matrix N K n n heet nilpotent als N p voor zekere gehele p. Bewijs dat A K n n met K algebraïsch afgesloten, nilpotent is als en alleen als alle eigenwaarden van A nul zijn. Opgave.2 Gegeven zijn de nilpotente matrices A = [ , A 2 = , A 3 = 2 (a) Bepaal een X j GL 3 (C) zo, dat Xj A j X j = M j een stricte bovendriehoeksmatrix is. (b) Bepaal een Y j GL 3 (C) zo, dat Yj M j Y j = S j een nilpotente Jordanvorm is. Opgave.22: Hoeveelheid nilpotente Jordanvormen van een gegeven type Bewijs dat het aantal nilpotente Jordanvormen van type τ = [τ,..., τ p n gelijk is aan p! (τ τ 2 )!... (τ q τ q+ )!, waarbij τ = [τ,..., τ q de geconjugeerde partitie van τ is, en τ q+ =. Hint: Zij S K n n een nilpotente Jordanvorm is van type τ = [τ,..., τ p n. Bewijs dat τl τ l het aantal nilpotente Jordanblokken van S van afmetingen l l is...

52 52 HOOFDSTUK. CANONIEKE VORMEN

53 Hoofdstuk 2 Dualiteit Dit hoofdstuk behandelt enkele concepten gerelateerd aan dualiteit. Dualteit is een begrip dat op zeer uiteenlopende deelgebieden van de wiskunde een rol speelt maar desondanks, of misschien wel juist daardoor, een niet goed gedefinieerde betekenis heeft. Gelukkig is de duale vectorruimte die we hier introduceren en bestuderen ondubbelzinnig en duidelijk gedefinieerd. We geven voorbeelden van (elementen uit) de duale vectorruimte, en beschrijven de duale basis van de duale vectorruimte en de relatie met het begrip coördinaten. We behandelen het natuurlijk isomorfisme tussen een vectorruimte en de duale van zijn duale, en het Riesisomorfisme tussen de duale vectorruimte en de vectorruimte zelf. We definiëren de duale van een lineaire afbeelding, en de annihilator van een verzameling. Daar waar dwarsverbanden zijn zullen deze expliciet worden opgemerkt. 2. De duale vectorruimte We brengen de volgende definitie in de herinnering. Definitie 2.. (hom K (V, W )) Gegeven twee vectorruimtes (V, K) en (W, K) over K noteren we de verzameling van alle lineaire afbeeldingen V W met hom K (V, W ). Lemma 2..2 De verzameling hom K (V, W ) is een vectorruimte over K indien voorzien van de gebruikelijke optelling van L, K hom K (V, W ) middels L + K : V W : v L(v) + K(v) en de gebruikelijke vermenigvuldiging met scalairen k K middels k L : V W : v k L(v) waarbij de + en de in de rechterleden de vectorruimtebewerkingen op W zijn. Als speciaal geval van deze definitie en dit lemma bekijken we de keuze W = K. Definitie 2..3 (Duale vectorruimte (V, K) van (V, K)) De vectorruimte hom K (V, K) noteren we met (V, K) of kortweg met V en noemen we de duale vectorruimte van V. Elementen uit de duale vectorruimte staan bekend onder een veelvoud van namen. Definitie 2..4 (Lineaire functionaal, covector, -vorm) Een element v V wordt ook wel een lineaire functionaal genoemd, of een covector, of een -vorm. 53

54 54 HOOFDSTUK 2. DUALITEIT 2.. Voorbeelden en eerste oriëntatie We geven hier voorbeelden van elementen uit de duale vectorruimte, en daarnaast ook wat resultaten die we verderop in meer algemeenheid zullen bewijzen. Eerst bekijken we (K n ). Voorbeeld 2..5 Beschouw de vectorruimte (K n, K). Dan is voor iedere vast gekozen y K n de afbeelding l y : K n K : x y x (2.) een lineaire functionaal op K n en daarmee dus een element van (K n ). Opmerking 2..6 In Voorbeeld 2..5 is l y (K n ). De matrix y is geen element van (K n ). Het is slechts de matrix van de lineaire afbeelding l y ten opzichte van de standaardbasis. Stelling 2..7 De afbeelding met l y als in Voorbeeld 2..5 is een lineaire bijectie. L : K n (K n ) : y l y (2.2) Bewijs. De lineariteit is eenvoudig na te gaan. Omdat er voor iedere y een x K n bestaat met y x, geldt dat l y = y =. Dus is ker(l) = {}, en is L injectief. Ook is L surjectief, immers, laat l : K n K gegeven zijn en laat z K n de matrix zijn van l ten opzichte van de standaardbases van K n en van K. Dan is dus l(x) = zx voor alle x K en dus geldt met y = z dat l = l y. Dus iedere l (K n ) is van de vorm l y voor zekere y. Gevolg 2..8 Er geldt dat (K n ) = K n. In het bijzonder is dim(k n ) = n. Bewijs. De afbeelding L uit Stelling 2..7 is een lineaire bijectie en dus een isomorfisme. Opmerking 2..9 Het voorgaande kan geherformuleerd worden als dat (K n ) = {l y y K n }, (2.3) waarbij er voor iedere l (K n ) precies één y K n bestaat zo, dat l = l y. Opmerking 2.. Als K = R dan is l y (x) = y x = y, x het standaardinproduct op R n met een vast gekozen vector y R n. Ook als K = C is l y (x) = y x = y x = y, x het standaardinproduct op C n met een vast gekozen vector, alleen nu is dat met y. Lineaire functionalen op een eindigdimensionale vectorruimte laten zich beschrijven middels de combinatie van Stelling 2..7 en de coördinaatafbeelding horende bij een basis β van V. Opmerking 2.. In het vervolg zullen we een willekeurig element uit V vaak aanduiden met v. Dit is slechts een notatie, in het bijzonder is de asterisk hier geen bewerking op v. Stelling 2..2 Gegeven een vectorruimte (V, K) met basis β = v,..., v n. Dan bestaat er voor iedere v V precies één y K n zodat v = l y co β (2.4) waarbij l y de afbeelding K n K : x y x is. De toevoeging K n V : y v is lineair.

55 2.. DE DUALE VECTORRUIMTE 55 Bewijs. Laat v : V K gegeven zijn en beschouw daarnaast de coördinaatafbeelding co β : V K n. Zie nu het diagram in Figuur 3.. V K v co β : K n K co β l y Figuur 3. Factorisatie van een element v V. K n = v = l y : K n K De samenstelling v co β is een lineaire afbeelding K n K. Volgens Stelling 2..7 bestaat er een unieke y K n zo, dat v co β = l y, en dus zo, dat v = l y co β. Volgens Stelling 2..7 is de toevoeging y l y lineair. Dus is de samenstelling y l y co β = v dat ook. Gevolg 2..3 Er geldt dat V = K n, en in het bijzonder dat V = V. We eindigen deze sectie met enkele explicietere voorbeelden van lineaire functionalen. Een bekend element uit de duale van de ruimte van vierkante matrices is het spoor. Voorbeeld 2..4 De lineaire afbeelding Sp : K n n K : A Sp(A) (2.5) waarbij Sp(A) staat voor het spoor van A, is een covector uit (K n n ). Daarnaast is voor gegeven vast gekozen v, w K n ook K n n K : A v Aw (2.6) een lineaire functionaal op K n n en daarmee een element uit (K n n ). Oneindigdimensionale vectorruimtes leveren doorgaans interessantere duale vectorruimtes. Voorbeeld 2..5 Beschouw de vectorruimte (C(I), R) van continue functies op het interval I = [a, b met a, b R. Dan is de afbeelding I b a : C(I) R : f b a f(x)dx, (2.7) waar b a de Riemann-integraal is, een lineaire functionaal op C(I), en dus is Ib a C(I). Daarnaast is de functie-evaluatie e x : C(I) R : f f(x) (2.8) ook een element van C(I) voor iedere vast gekozen x I. In het bijzonder is ook T b a : C(I) R : f(a) + f(b) f (b a) 2 een element van C(I), het is immers een lineaire combinatie van e a en e b uit (2.8). (2.9)

56 56 HOOFDSTUK 2. DUALITEIT De lineaire functionalen I b a en T b a uit vorig voorbeeld zijn als volgt aan elkaar gerelateerd. Opmerking 2..6 Definieer de zogeheten interpolatie-afbeelding π : C(I) R[X : f π(f) (2.) die aan f C(I) toevoegt het unieke lineaire polynoom π(f) R[X dat waarde f(a) aanneemt in a en f(b) in b. Zie ook Figuur 3.2. Het polynoom π(f) heet de lineaire interpolant van f. Het is eenvoudig na te gaan dat dan voor alle f C(I), T b a(f) = I b a(π(f)), (2.) dus T b a(f) is een approximatie van I b a(f) berekend door π(f) te integreren in plaats van f zelf. Definitie 2..7 (Trapeziumregel) T b a(f) heet de trapeziumregel-approximatie van I b a(f). De trapeziumregel is een voorbeeld van een zogeheten kwadratuurformule. f f(b) f(b) π(f) 2 (f(a) + f(b)) f(a) T b a(f) f(a) T b a(f) a b a b Figuur 3.2 De trapeziumregel T b a(f) = 2 (f(a) + f(b))(b a) benadert Ib a(f) De duale basis β van V behorende bij een basis β van V Veronderstel dat (V, K) een vectorruimte is van eindige dimensie. In Sectie 2.. zagen we dat V isomorf is met V. We definiëren nu een basis voor V, gegeven een basis β van V. Definitie 2..8 (Duale basis) Zij (V, K) een vectorruimte met basis β = v,..., v n. Laat voor iedere j {,..., n} v j : V K : v e j co β (v). (2.2) Hiermee is β = v,..., v n een basis voor V, de duale basis genaamd. Opmerking 2..9 In Figuur 3.3 wordt v j gedefinieerd in termen van Figuur 3.. V v j K co β l ej v j = l ej co β K n =

57 2.. DE DUALE VECTORRUIMTE 57 Figuur 3.3 De v j V uit Definitie 2..8 in termen van l ej uit Voorbeeld Opmerking 2..2 Met Definitie 2..8 laat de coördinaatafbeelding zich als volgt herschrijven, v (v) co β : V K n : v.. (2.3) v n (v) In het bijzonder zien we dus dat voor alle v V, v = v (v)v + + v n (v)v n, (2.4) en tevens dat v j (v i ) = δ ij = { als i = j als i j. (2.5) Merk op dat de karakterisering van v,..., v n in (2.5) equivalent is met Definitie We bewijzen nu dat β inderdaad een basis is. Omdat we in Gevolg 2..3 al zagen dat dim(v ) = dim(v ) = n volstaat het om de lineaire onafhankelijkheid van β aan te tonen. Lemma 2..2 De covectoren v,..., v n zijn lineair onafhankelijk. Bewijs. Laat α,..., α n K zodanig zijn dat α v + + α n v n = V, (2.6) waarbij het rechterlid het neutrale element van V is, oftewel de nulfunctionaal : V K : v K. Laat nu j {,..., n} en evalueer (2.6) in v j V. Wegens (2.5) is v j (v i ) = δ ij en dus impliceert (2.6) dat K = (v j ) = α v (v j ) + + α n v n (v j ) = α j v j (v j ) = α j. Omdat j willekeurig was, is α = = α n = en zijn v,..., v n dus lineair onafhankelijk. We kunnen vervolgens de bij β horende coördinaatafbeelding co β : V K n onderzoeken. Lemma Zij V een vectorruimte met basis β = v,..., v n en laat β =,..., v n de bij β horende duale basis zijn voor V. Dan geldt dat oftewel, met andere woorden, dat voor alle v V. co β : V K n : v v (v ). v (v n ), (2.7) v = v (v )v + + v (v n )v n (2.8)

58 58 HOOFDSTUK 2. DUALITEIT Bewijs. Evalueer de beide lineaire functionalen in het linker- en rechterlid van (2.8) in v,..., v n met behulp van relatie (2.5) en concludeer gelijkheid. We illustreren de duale basis en Lemma met twee voorbeelden. Voorbeeld Beschouw R 2 voorzien van de standaardbasis ε = e, e 2. De duale vectorruimte (R 2 ) bestaat volgens Stelling 2..7 uit alle afbeeldingen l y : R 2 R : [ x x 2 [ x [y, y 2 x 2 We zien in het bijzonder dat l y = y e + y 2 e 2, waarbij, met y, y 2 R. e : R 2 R : x e x en e 2 : R 2 R : x e 2 x de individuele-coördinaatfunctionalen zijn. Het tupel e, e 2 is de duale basis ε voor (R 2 ). Merk op dat l y = l y (e )e + l y (e 2 )e 2, wat Lemma illustreert. Het volgende voorbeeld speelt zich af in een polynoomruimte. Voorbeeld Beschouw de vectorruimte (R[X 2, R). Laat β = φ, φ, φ 2, waarbij φ : R R : X, φ : R R : X X, φ 2 : R R : X X 2. De duale basis β = φ, φ, φ 2 voor (R[X 2 ) bestaat per Definitie 2..8 en Opmerking 2..2 uit de individuele-coördinaatfunctionalen, die samen de coördinaatafbeelding co β bepalen, φ ( ) co β ( ) = φ ( ). φ 2 ( ) Beschouw nu de integratie-afbeelding I : R[X 2 R : p p(x)dx. Dan is I (R[X 2) en vertelt Lemma dat I = I (φ )φ + I (φ )φ + I (φ 2 )φ 2 = φ + 2 φ + 3 φ2. Hiermee hebben we de integratie-functionaal I dus expliciet geschreven als lineaire combinatie van de individuele-coördinaatfunctionalen φ, φ 2, φ 3. Opmerking In het voorgaande voorbeeld hebben we in feite niets anders laten zien dan dat a + bx + cx 2 dx = a + 2 b + 3 c (2.9) oftewel, we hebben de integraal uitgedrukt als lineaire combinatie van de coördinaten a, b, c.

59 2.. DE DUALE VECTORRUIMTE De dubbelduale vectorruimte V en het natuurlijke isomorfisme In deze sectie bestuderen we de duale van de duale vectorruimte V, oftwel de dubbelduale vectorruimte V = (V ) van V. Volgens Definitie 2..3 is V = hom K (V, K) (2.2) en deze vectorruimte bestaat dus uit alle lineaire functionalen V K. Opmerking Als V = R bestaat V = R uit de lineaire afbeeldingen van R naar R, en V uit de lineaire afbeeldingen, die aan dergelijke lineaire afbeeldingen scalairen toevoegen. Dus V lijkt doorgaans niet hetzelfde als V, tenzij we onze interpretatie van V subtiel herzien. Definitie (Duale koppeling) Zij V een vectorruimte met duale V. Schrijf voor alle v V en v V v, v = v (v). (2.2) De afbeelding, : V V K heet de duale koppeling van het duale paar V, V. Opmerking De uitdrukking v, v is geen inproduct. Als V een inproductruimte is, zullen we verschillende notaties nodig hebben voor inproduct en duale koppeling. De charme van de notatie v, v en van het hele concept van duale koppeling is, dat het een perfecte symmetrie suggereert tussen wat v doet met v, en omgekeerd, wat v doet met v. Opmerking Het is gebruikelijk om v (v) en dus v, v te lezen als v geëvalueerd in v. De symmetrie in de notatie v, v moedigt echter aan om dit ook te lezen als v geëvalueerd in v. Dit interpreteert v als lineaire functionaal V K : v v, v, als element van V. In Figuur 3.4 illustreren we de symmetrie tussen de gebruikelijke werking van V op V en de hier nieuw te beschouwen werking van V op V. v v 2 v v 2 v n v (v) = v, v = v(v ) v : V K : v v, v v n v : V K : v v, v Figuur 3.4. Dualiteit: het symbool v is zowel een element van V, als een element van V. We gebruiken in Figuur 3.4 voor de lineaire functionaal V K : v v, v uit de vectorruimte V hetzelfde symbool v als voor het element v uit V. De motivatie hiervoor is dat we voor de lineaire functionaal V K : v v, v standaard het symbool v gebruiken. Opmerking 2..3 Om de vraag te beantwoorden of het gebruik van het symbool v voor de afbeelding V K : v v, v geen mathematische inconsistentie oplevert, zullen we aantonen dat iedere v V op deze manier precies één element uit V voorstelt, en omgekeerd, dat ieder element uit V voor is te stellen middels precies één element uit V.

60 6 HOOFDSTUK 2. DUALITEIT In de volgende stelling gebruiken we daarom vooralsnog niet het symbool v maar H(v). Stelling 2..3 (Natuurlijk isomorfisme) Zij V, V een duaal paar met duale koppeling, : V V K. Laat H : V V de afbeelding zijn die aan v V de lineaire functionaal H(v) : V K : v v, v (2.22) uit V toevoegt. Dan is H een lineaire bijectie tussen V en V, het natuurlijke isomorfisme. Opmerking We schrijven H(v)(v ) voor de functionaal H(v) V geëvalueerd in v. Het alternatief is om de duale koppeling tussen V en V te gebruiken, maar dat is wellicht verwarrend. In het bijzonder is dus H(v)(v ) = v, v. Bewijs. We bewijzen eerst de lineariteit van H. Laat α, β K en v, w V. Dan geldt voor alle v V dat H(αv + βw)(v ) = v, αv + βw = α v, v + β v, w = αh(v)(v ) + βh(w)(v ), en dus zijn H(αv + βw) en αh(v) + βh(w) gelijk als afbeeldingen op V. Vervolgens laten we zien dat H injectief is. Veronderstel hiertoe dat H(v) =. Dit betekent dat H(v)(v ) = v, v = K voor alle v V, en dus in het bijzonder voor de elementen v,..., v n van de duale basis β van V horende bij een gekozen basis β = v,..., v n van V. Dus is v j, v = v j (v) = voor alle j {,..., n}, en volgt met behulp van Opmerking 2..2 dat co β (v) = en dus is v =. Dus is H injectief, en omdat dim(v ) = dim(v ) = n is H bijectief. Opmerking Als we het symbool v gebruiken voor zowel het element uit V als voor het element V K : v v, v uit V dan valt te verdedigen dat V = V Het isomorfisme van Riesz In Opmerking 2..9 zagen we dat iedere lineaire functionaal l op R n op precies één manier kan worden geschreven als het nemen van het inproduct met een vast gekozen y R n. We bewijzen nu iets soortgelijks voor iedere eindigdimensionale reële inproductruimte. Opmerking Om verwarring met de duale koppeling, te voorkomen schrijven we (, ) voor een inproduct. Stelling (Riesz) Laat (V, R, (, )) een inproductruimte zijn van dimensie n N. Dan is voor iedere u V de afbeelding een element uit V. Definieer nu l u : V R : v (u, v) (2.23) J : V V : u l u (2.24) dan is J een lineaire bijectie en dus een isomorfisme, het Riesz-isomorfisme genaamd.

61 2.. DE DUALE VECTORRUIMTE 6 Bewijs. De lineariteit van l u en van J volgen eenvoudig. Om injectiviteit van J te bewijzen, merk op dat l u (u) = (u, u) = u 2 en dus volgt uit een inproductaxioma dat l u = u =. Dus ker(j ) = {} en is J injectief. Gevolg 2..3 laat zien dat dim(v ) = dim(v ) = n en dus is J zelfs bijectief. We concluderen dat J een isomorfisme is. Opmerking In de overeenkomstige Stelling 2..7 was nog niet bewezen dat dim(v ) = dim(v ) en dus moest daar de surjectiviteit van L nog expliciet worden bewezen. Frigyes Riesz (88-956) Definitie (Riesz-representant) Het unieke element v V zo, dat (v, w) = v (w) voor alle w V heet de Riesz-representant van v in V. Opmerking Laat (V, C, (, )) een complexe inproductruimte zijn van dimensie n N. Dan is voor iedere u V de afbeelding l u : V R : v (u, v) (2.25) een element uit V, want complexe inproducten zijn lineair in de tweede component. Definieer nu J : V V : u l u (2.26) dan is J weliswaar een bijectie maar niet een lineaire bijectie. Immers, J (αu) = l αu en l αu (v) = (αu, v) = α(u, v) = αl u (v) dus J (αu) = αj (u). Dus is J geen lineaire afbeelding. Hij wordt anti-lineair of geconjugeerdlineair genoemd. We zullen in het vervolg alleen de reële inproductruimten bekijken. Voorbeeld In Opmerking 2..9 is y de Riesz-representant van l y. Voorbeeld 2..4 Beschouw voor zekere a < b het standaardinproduct (q, r) = b a q(x)r(x)dx

62 62 HOOFDSTUK 2. DUALITEIT op de vectorruimte (R[X n, R) van polynomen van graad ten hoogste n. De Riesz-representant van de integratie-afbeelding I b a (R[X n ) gedefinieerd door I b a : R[X n R : r b a r(x)dx is het polynoom R R : X. Immers, I b a(r) = (, r) voor alle r R[X n. Voorbeeld 2..4 Op de ruimte (R n n, R) definiëren we het inproduct (X, Y ) = Sp(X Y ). De Riesz-representant van de lineaire functionaal Sp : R n n R : Y Sp(Y ) is de identiteitsmatrix I R n n. Immers, Sp(Y ) = Sp(I Y ) = (I, Y ) voor alle Y R n n. Het volgende voorbeeld is wellicht wat verrassender. Voorbeeld Laat A GL n (R) gegeven zijn met A = A. Definieer voor alle y, z R n, (y, z) A = y Az. (2.27) Dan is (, ) A een inproduct op R n. Beschouw nu het stelsel Ax = b van lineaire vergelijkingen voor gegeven b R n. Omdat geldt dat (x, z) A = x Az = x A z = (Ax) z = b z (2.28) is de oplossing x van Ax = b de Riesz-representant van de lineaire functionaal z b z. Het Riesz-isomorfisme J is een lineaire afbeelding tussen vectorruimtes, en dus kunnen we de matrix J β β van J beschouwen ten opzichte van bases β en β. Lemma Zij (V, R, (, )) een inproductruimte met basis β = v,..., v n. Schrijf β = v,..., v n voor de bijbehorende duale basis van V. Dan is (v, v )... (v n, v ) J β β =.. (2.29) (v, v n )... (v n, v n ) de matrix van het Riesz-isomorfisme J : V V ten opzichte van β en β. Bewijs. Per definitie is J β β de matrix waarvoor geldt dat co β (J (v)) = J β β co β (v) (2.3) voor alle v V, zoals afgebeeld in Figuur 3.5. Dus is de j-de kolom van J β β co β (J (v j )) = J (v j )(v ). J (v j )(v n ) = (v j, v ). (v j, v n ) gelijk aan, (2.3)

63 2.. DE DUALE VECTORRUIMTE 63 waar we gebruik maakten van Lemma en de definitie van J uit Stelling In Figuur 3.5 vatten we één en ander schematisch samen. Definitie 2..8 van duale basis β = v,..., v n, Opmerking 2..2 over de vorm van co β in termen van v,..., v n, Lemma voor de coördinaten ten opzichte van β, en bovenstaand Lemma voor de matrix van het Riesz-isomorfisme ten opzichte van β en β. v = β = {v,..., v n } β = {v,..., v n } J n V V n v j, v v v = v, v j v j j co β co β j= j= co β (v) = v, v. v n, v R n J β β = R n (v, v )... (v n, v ).. (v, v n )... (v n, v n ) co β (v ) = v, v. v, v n Figuur 3.5 Matrix van het Riesz-isomorfisme ten opzichte van basis en duale basis. Opmerking De coördinaatvector co β (J (v )) van de Riesz-representant J (v ) van v kan dus worden uitgerekend als oplossing x van het stelsel lineaire vergelijkingen waarbij de matrix J β β is als in Lemma J β β x = co β (v ), (2.32) Voorbeeld Beschouw nogmaals Voorbeeld 2..4, met voor het gemak de expliciete keuzes n = 2 en verder a = en b =. We gaan de Riesz-representant p = J (I ) van I uitrekenen. Kies hiertoe β =, X, X 2. De coördinaten van I ten opzichte van β hebben we reeds uitgerekend in Voorbeeld Dan geeft Lemma dat J β β co β(p) = co β (p) = 2 3 = co β (I ). (2.33) Hieruit volgt dat co β (p) = e R 3 en dus dat p =, zoals we al zagen in Voorbeeld Opmerking Als β in Lemma orthonormaal is, is J β β In dat geval geldt kennelijk co β (J (v)) = co β (v), oftewel, = I, de identiteitsmatrix. n n v = α j v j J (v) = α j v j. (2.34) j= j= In dat geval kan de Riesz-representant v = J (v ) van v het eenvoudigst worden bepaald.

64 64 HOOFDSTUK 2. DUALITEIT We geven nu een voorbeeld waaruit blijkt dat als de vectorruimte V geen eindige dimensie heeft, de representatiestelling van Riesz niet zonder meer geldig blijft. Voorbeeld Beschouw de inproductruimte (C(I), R, (, )) van continue functies op het interval I = [,, voorzien van het standaardinproduct (f, g) = f(x)g(x)dx. (2.35) We bekijken weer de lineaire functionaal I C(I). Net als in Voorbeeld 2..4 geldt ook hier dat (, g) = I (g) (2.36) voor alle g C(I). Dus I heeft een Riesz-representant in C(I). Bekijk nu echter de functieevaluatie in x =, ε : C(I) R : g g(). (2.37) Deze functionaal is lineair en dus ε C(I). Veronderstel nu dat er een f C(I) bestaat met de eigenschap dat (f, g) = ε (g) voor alle g C(I). (2.38) Dan is f niet de nulfunctie. Omdat f continu is, bestaat er een niet-leeg open interval K = (a, b) [, zo, dat f(x) voor alle x K. Laat nu g(x) = (x a)(b x) voor alle x K en g(x) = voor alle x [a, b. Zie Figuur 3.6. f g a K b f(x)g(x) > op K f(x)g(x) = op I \ K (f, g) > ε (g) = Figuur 3.6 Voor iedere f C(I) is er een g C(I) met g() = en (f, g). Dan is g C(I) met ε (g) =. Ook is f(x)g(x) = voor alle x K. Omdat voor alle x K óf f(x)g(x) >, óf f(x)g(x) < is (f, g). Uit deze tegenspraak volgt dat er geen f C(I) bestaat zo, dat (f, g) = ε (g) voor alle g C(I). Opmerking Dualiteit heeft in oneindig veel dimensies veel meer onverwachte wendingen dan in eindig veel dimensies. De representatiestelling van Riesz, maar bijvoorbeeld ook het natuurlijk isomorfisme hoeven daar niet meer geldig te zijn. Functie-evaluatie heeft wel een Riesz-representant op iedere polynoomruimte (R[X n, R). Voorbeeld Beschouw de vectorruimte (R[X, R) van lineaire polynomen voorzien van het standaardinproduct (q, r) = q(x)r(x)dx. We bepalen de Riesz-representant van de evaluatie-functionaal ε : R[X R : p p(). Hietoe kiezen we de basis β =, X voor R[X. We vinden middels Lemma dat [ [ ε () co β (ε ) = =. (2.39) ε (X)

65 2.. DE DUALE VECTORRUIMTE 65 Vervolgens berekenen we expliciet de matrix [ 2 J β β = 2 3 (2.4) met als gevolg dat co β (J (ε )) = [ [J β β coβ (ε ) = 2, (2.4) en dus dat r = J (ε ) = 2 + X. En inderdaad, met p(x) = a + bx vinden we dat (r, p) = 2 (a + bx)dx = 2 (ax + 2 bx2 ) Dit bevestigt dat r de Riesz-representant is van ε (R[X ) De duale L van een lineaire afbeelding L = a = p() = ε (p). (2.42) Laat (V, K) en (W, K) vectorruimtes zijn over een lichaam K. Dan induceert iedere lineaire afbeelding L : V W op natuurlijke wijze een zogeheten duale afbeelding L : W V. Definitie 2..5 (Duale afbeelding en pull-back) Voor iedere L hom K (V, W ) definiëren we de duale afbeelding L hom K (W, V ) middels L : W V : w w L. (2.43) De functionaal L (w ) heet de pull-back van w in V onder L. Het is eenvoudig na te gaan dat L goedgedefinieerd en linear is. V V w L L K W w W L : W V : w w L L Figuur 3.6 Definitie van de duale afbeelding L en de pull-back w L van w. Opmerking 2..5 In de context van complexe inproductruimtes gebruikten we de notatie L voor de geadjungeerde van een lineaire afbeelding L : V W. Dit is de afbeelding zo, dat (v, L (w)) V = (L(v), w) W (2.44) voor alle v V en w W. Hier is (, ) V het inproduct op V en (, ) W het inproduct op W. Ondanks dat we de duale van een afbeelding L ook met L aanduiden, is dit niet hetzelfde. Opmerking De asterisk in L is een bewerking : hom K (V, W ) hom K (W, V ).

66 66 HOOFDSTUK 2. DUALITEIT Voorbeeld Laat L : R R : x 2x. Dan beeldt L een functionaal w op R af op de functionaal v = L (w ) gedefinieerd door Deze v is dan de pull-back van w onder L. v : R R : x w (2x). (2.45) Voorbeeld Laat (C(I), R) de vectorruimte van continue functies op I = [a, b zijn. Beschouw de lineaire afbeelding π : C(I) R[X : f π(f), (2.46) waarbij π(p) de lineaire interpolant is van f, oftewel, het unieke polynoom in R[X dat waarde f(a) aanneemt in a en waarde f(b) in b. Laat vervolgens I b a : R[X R : g b a g(x)dx. (2.47) Dan is Ia b (R[X ) en is L (Ia) b gelijk aan de lineaire functionaal Ia b L, die we herkennen als T b a : C(I) R : f b a π(f)(x)dx = (f(a) + f(b)) (b a), (2.48) 2 oftewel, de trapeziumregel T b a (C(I)) is de pull-back van I b a onder π. Zie Figuur 3.7. C(I) C(I) T b a π R R[X I b a (R[X ) π (I b a) = T b a π Figuur 3.7 Relatie tussen I b a en T b a via de duale π van de lineaire-interpolatieafbeelding. De duale L van een lineaire afbeelding is zoals gezegd niet gelijk aan de geadjungeerde. Wel kunnen we het volgende onmiddellijk inzien. Vergelijk dit met Opmerking Stelling Laat L hom K (W, V ) de duale zijn van L hom K (V, W ). Dan geldt voor alle v V en w W, L (w ), v V = w, L(v) W (2.49) waarbij, V de duale koppeling tussen V en V en, W die tussen W en W is. Bewijs. Er geldt per definitie van duale koppeling en van L dat w, L(v) W = w (L(v)) = (w L)(v) = L (w )(v) = L (w ), v V. (2.5) Dit bewijst de bewering. De matrix van L blijkt eenvoudigweg de getransponeerde te zijn van die van L, indien we V en W voorzien van de duale bases van die van V en W.

67 2.. DE DUALE VECTORRUIMTE 67 Stelling Laat β V = v,..., v n een basis zijn van V en β W = w,..., w k een basis voor W. Laat L hom K (W, V ) de duale zijn van L hom K (V, W ). Dan is (L ) β V β W waarbij β V en β W de duale bases van β V en β W zijn. = (L β W βv ), (2.5) Bewijs. Per definitie van de beide matrices geldt voor alle w W, en tevens dat voor alle v V, co β V (L (w )) = (L ) β V β W co β W (w ) (2.52) co βw (L(v)) = L β W βv co βv (v). (2.53) Laat nu i {,..., k} en j {,..., n} gegeven zijn. Dan geldt dat e i (L ) β V βw e j = e i (L ) β V βw co β W (w j ) = e i co β V (L (w j )) = L (w j ), v i V, waar de tweede gelijkheid (2.52) gebruikt en de derde gelijkheid Lemma Idem vinden we e j L β W βv e i = e j L β W βv co βv (v i ) = e j co βw (L(v i )) = w j, L(v i ) W, waarbij de tweede gelijkheid (2.53) gebruikt en de derde Opmerking Omdat wegens Stelling geldt dat w j, L(v i ) W = L (w j ), v i V vinden we dat e i (L ) β V βw e j = e j L β W βv e i. (2.54) Dit bewijst de bewering De annihilator Het begrip annihilator in de duale vectorruimte is gerelateerd aan het begrip orthogonaal complement in een inproductruimte. Definitie (Annihilator) Zij (V, K) een vectorruimte en S V. Dan heet de verzameling S = {v V v (s) = voor alle s S} (2.55) de annihilator van S in V. In het bijzonder geldt dus dat v S als en alleen als S ker(v ). Opmerking Als v nul is op S, is v ook nul op de deelruimte van V opgespannen door de elementen van S. In het bijzonder is S dus een lineaire deelruimte van V, ook als S geen deelruimte is. Tot slot is eenvoudig in te zien dat V = {} en {} = V. Annihilatoren worden uiteraard kleiner naarmate de te annihileren verzameling groter wordt. Lemma Laat (V, K) een vectorruimte zijn met duale V. Dan geldt S T V T S V. (2.56)

68 68 HOOFDSTUK 2. DUALITEIT Bewijs. Als v (t) = voor alle t T dan is v (s) = voor alle s S. De omgekeerde implicatie in (2.56) is niet geldig. De Canadese band Annihilator (984) Voorbeeld 2..6 Beschouw de deelverzameling {e } R 3. Ieder element van (R 3 ) is te schrijven als l y : R 3 R : x y x, en l y (e ) = als en alleen als e y =. Dus, {e } = {l y : R 3 R : x y x e y = }. (2.57) Merk op dat {e } ook gelijk is aan het opspansel van e 2 en e 3, waarbij ε = e, e 2, e 3 de duale basis is van de standaardbasis ε = e, e 2, e 3. Het voorgaande voorbeeld illustreert het aangekondigde verband tussen orthogonale complementen en annihilatoren. Dit verband wordt expliciet gemaakt middels het Riesz-isomorfisme. Stelling 2..6 Zij (V, R, (, )) een inproductruimte en S V. Dan geldt waarbij J : V V het Riesz-isomorfisme is. span(s) = J (S ), (2.58) Bewijs. Laat v S. Dan is v (s) = voor alle s S. Per definitie van Riesz-representant is J (v ) de vector uit V waarvoor geldt dat (J (v ), v) = v (v) voor alle v V, (2.59) en dus staat J (v ) loodrecht op alle s S en daarmee ook loodrecht op alle lineaire combinaties van vectoren uit S. Dus J (v ) span(s). Omgekeerd, laat w span(s), dan geldt in het bijzonder dat (w, s) = voor alle s S, en dus is J (w) : V R : v (w, v) (2.6) een element is van S. Dit bewijst de bewering Quotiëntruimtes Laat V een vectorruimte zijn met lineaire deelruimte W. Dan kunnen we de volgende equivalentierelatie definiëren op V, x y x y W. (2.6)

69 2.. DE DUALE VECTORRUIMTE 69 Deze relatie verdeelt V in equivalentieklassen die we aanduiden met [x, waarbij [x = {x + w w W }. (2.62) De quotiëntverzameling V/W is de verzameling van equivalentieklassen, V/W = {[x x V }. (2.63) Als we deze verzameling voorzien van de volgende optelling en scalaire vermenigvuldiging, in de zin dat voor alle [x, [y V/W en alle α K, [x + [y = [x + y en α[x = [αx, (2.64) dan is V/W zelfs een vectorruimte, de quotiëntruimte van V en W genaamd. Voorbeeld Beschouw R 2 met als deelruimte het opspansel van w R 2 met w. Dan bestaat R 2 /W uit de verzameling van lijnen parallel aan W, oftewel, R 2 /W = { {x + αw α R} x R 2 }. (2.65) Het nul-element uit R 2 /W is [. Immers, [x + [ = [x + = [x. Merk op dat [w en [ hetzelfde element zijn in R 2 /W. Ter illustratie gaan we nu aantonen dat als [v [, de verzameling [v een basis is voor R 2 /W. Omdat [v [ geldt sowieso dat [v lineair onafhankelijk is in R 2 /W. We hoeven dus alleen nog maar aan te tonen dat het opspansel van [v gelijk is aan R 2 /W. Laat hiertoe [x R 2 /W willekeurig zijn. Dan vinden we α[v = [x [αv = [x αv x W αv + βw = x (2.66) voor zekere β R. Omdat [v [w = [ zijn v en w lineair onafhankelijk in R 2, en dus is het bestaat van α en β waarvoor αv + βw = x voor iedere x R 2 gegarandeerd. Dus is er een α R zodanig dat α[v = [x en dus wordt R 2 /W opgespannen door [v. We laten tot slot een verband zien tussen de duale van de quotiëntruimte V/W van een vectorruimte V en een deelruimte W, en de eerder ten tonele gevoerde annihilator. Stelling Laat W een deelruimte zijn van een eindig dimensionale vectorruimte V. Dan geldt dat (V/W ) = W V. Bewijs. Een lineaire functionaal v op V induceert een goed gedefinieerde lineaire functionaal ṽ op V/W ṽ : V/W K : [v v (v) (2.67) als en alleen als v constant is op de equivalentieklassen van V. Dit is zo als en alleen als v (x) = v (x) + v (w) voor alle x V en alle w W, en dus als en alleen als W ker(v ), oftewel v W. Hiermee is bewezen dat de afbeelding W (V/W ) : v ṽ met ṽ als in (2.67), een bijectie is. De lineariteit van deze bijectie volgt eenvoudig.

70 7 HOOFDSTUK 2. DUALITEIT 2.2 Opgaven Opgave 2. Geef voor ieder van de volgende vectorruimtes twee voorbeelden van elementen uit de duale, (a) (R, R) (b) (C, C) (c) (C, R) (d) (R 3 2, R) (e) (R N, R) (f) (R[X 3, R) (g) (R, R) (h) ((R R ), R). Opgave 2.2 (a) Geef de duale basis β horende bij de basis β = {2} van (C, C). (b) Geef de duale basis β horende bij de basis β = {, i} van (C, R). Opgave 2.3 Gegeven is de basis β = {v, v 2, v 3 } van R 3 waarbij v =, v 2 =, v 3 = Geef de volledige functievoorschriften van de elementen v, v 2, v 3 van de duale basis β.. Opgave 2.4 Ga na dat de afbeelding L lineair is, waarbij L : K n (K n ) : y l y (2.68) en waarbij l y : K n K : x y x. Opgave 2.5 Definieer de afbeelding π : C(I) R[X : f π(f) (2.69) die aan f C(I) toevoegt het lineaire polynoom π(f) R[X dat waarde f(a) aanneemt in a en f(b) in b. Het polynoom π(f) heet de lineaire interpolant van f. (a) Bewijs dat π een goed gedefinieerde lineaire afbeelding is.

71 2.2. OPGAVEN 7 (b) Ga na dat voor alle f C(I), Ta(f) b = Ia(π(f)), b (2.7) waarbij Ia b en Ta b zijn zoals gedefinieerd in één van de voorbeelden. Opgave 2.6 Beschouw de vectorruimte (R[X 2, R) met basis β = {φ, φ, φ 2 } waarbij φ : R R : X, φ : R R : X X, φ 2 : R R : X X 2. Laat voor gegeven x R de afbeelding ε x gedefinieerd zijn door ε x : R[X 2 R : f f(x). (a) Laat zien dat ε x (R[X 2 ). Laat β = {φ, φ, φ 2 } de bij β horende duale basis zijn van (R[X 2 ), en co β : (R[X 2 ) R 3 de bij β horende coördinaatafbeelding. (b) Bereken co β (ε x ). Opgave 2.7 Beschouw de vectorruimte (R[X 2, R) met basis β = {φ, φ, φ 2 } waarbij φ : R R : X, φ : R R : X X, φ 2 : R R : X X 2. Laat zoals voorheen de afbeelding T gedefinieerd zijn als T : R[X 2 R : f (f() + f()). 2 (a) Laat zien dat T (R[X 2). Laat β = {φ, φ, φ 2 } de bij β horende duale basis zijn van (R[X 2 ), en co β : (R[X 2 ) R 3 de bij β horende coördinaatafbeelding. (b) Bereken co β (T ). Opgave 2.8 Beschouw op de vectorruimte (R 2 2, R) de afbeelding Sp : R 2 2 R : A Sp(A). (a) Laat zien dat Sp (R 2 2 ).

72 72 HOOFDSTUK 2. DUALITEIT Schrijf, voor de duale koppeling tussen R 2 2 en (R 2 2 ). (b) Bereken Sp, I. Laat nu ε = {E, E 2, E 3, E 4 } de standaardbasis van R 2 2 zijn, dus E = [ [, E 2 = [, E 3 = [, E 4 = Laat ε = {E, E 2, E 3, E 4 } de duale basis zijn van ε voor de duale ruimte (R 2 2 ), en de bijbehorende coördinaatafbeelding. (c) Bereken co ε (Sp). co ε : R 2 2 R 4. Opgave 2.9. De duale basis β van de duale basis β Gegeven is een vectorruimte (V, K) met basis β = {v,..., v n }. Laat β = {v,..., v n } de bij β horende duale basis van V zijn. Schrijf H : V V : v H(v), waarbij H(v) : V K : v v, v voor het natuurlijke isomorfisme tussen V en V. Bewijs dat β = {H(v ),..., H(v n )} de duale basis van β voor V is. Opgave 2. Beschouw de inproductruimte (R 3, R, (, )) voorzien van het standaardinproduct. Gegeven is de basis β = {v, v 2, v 3 } van R 3, waarbij v =, v 2 = en v 3 = Schrijf β = {v, v 2, v 3 } voor de bijbehorende duale basis van (R 3 ), en laat J : R 3 (R 3 ) het Riesz-isomorfisme zijn. (a) Bereken de Riesz-representanten van v, v 2 en v 3 in R 3. Laat vervolgens H : R 3 (R 3 ) het natuurlijke isomorfisme zijn. (b) Bereken H(v + v 2 + v 3 )(v + v 2 + v 3 ).. Opgave 2. Beschouw de inproductruimte (R[X n, R, (, )) waarbij (q, r) = q(x)r(x)dx.

73 2.2. OPGAVEN 73 Definieer voor iedere gehele niet-negatieve n de afbeelding ε n : R[X n R : (a) Bepaal de Riesz-representant van ε in R[X. (b) Bepaal de Riesz-representant van ε in R[X. (c) Bepaal de Riesz-representant van ε 2 in R[X 2. Opgave 2.2 Beschouw de inproductruimte (R[X n, R, (, )) waarbij (q, r) = q q(). q(x)r(x)dx. Definieer voor iedere gehele niet-negatieve n de afbeelding δ n : R[X n R : q q (). (a) Bepaal de Riesz-representant van δ in R[X. (b) Bepaal de Riesz-representant van δ in R[X. (c) Bepaal de Riesz-representant van δ 2 in R[X 2. Opgave 2.3 B n = {, } n bestaat uit de vectoren in R n met entries uit {, }. We schrijven e B n voor de som van de standaardbasisvectoren e,..., e n van R n. Voor gegeven r B n is r = e r, en dus is e =, = e en r = r. De entries van r, r B n noteren we met r,..., r n en r,..., r n. Voor iedere vast gekozen r B n, definieer een lineaire functionaal l r (R n n ) door l r : R n n R : Laat β n de standaardbasis van R n n zijn, oftewel, Dus X ij = e i e j X r Xr. β n = {X ij R n n X ij = e i e j }. heeft als gebruikelijk een op positie (i, j) en nullen op de overige posities. Schrijf β n = {X,..., X nn } voor de bijbehorende duale basis voor (R n n ). Voor iedere r B n bestaan er dan a,..., a nn R zodanig dat l r = a X + + a nn X nn. (a) Laat zien dat a ij = r i r j voor alle i, j {,..., n}. Schrijf vervolgens J : R n n ( R n n) voor het Riesz-isomorfisme behorende bij het inproduct (X, Y ) = Sp(X Y ). (b) Bewijs dat J (rr ) = l r, oftewel, dat de matrix R = rr de Riesz-representant van l r in R n n is.

74 74 HOOFDSTUK 2. DUALITEIT Opgave 2.4 Laat L hom K (V, W ), en laat L : W V : w w L de duale afbeelding zijn. (a) Bewijs dat L (w ) een lineaire afbeelding is. (b) Bewijs dat L een lineaire afbeelding is. (c) Bewijs dat L injectief is als en alleen als L surjectief is. (d) Bewijs dat L bijectief is als en alleen als L bijectief is. Opgave 2.5 Gegeven drie vectorruimtes U, V, W over K, laat A hom K (U, V ) en B hom K (V, W ). Bewijs dat (BA) = A B. Opgave 2.6 Laat V en W eindigdimensionale vectorruimten over een lichaam K zijn. toevoeging : hom K (V, W ) hom K (W, V ) : L L een lineaire bijectie is. Bewijs dat de Opgave 2.7 Gegeven de lineaire afbeelding L : R 3 3 R 3 3 : (a) Bepaal de pull-back van Sp (R 3 3 ) onder L. X X + X. 2 Schrijf S voor de deelverzameling van elementen uit (R 3 3 ) die door de pull-back onder L op zichzelf worden afgebeeld. (b) Bewijs dat S een deelruimte is en geef een basis voor S. Opgave 2.8 Schrijf H : R 2 2 ( R 2 2) : Y H(Y ) voor het natuurlijke isomorfisme. (a) Geef het domein, codomein, en (functie-)voorschrift van H(Y ), voor gegeven Y R 2 2. Beschouw nu de afbeelding T : R 2 2 R : X [ X Schrijf, voor de duale koppeling tussen R 2 2 en (R 2 2 ) en, 2 voor de duale koppeling tussen (R 2 2 ) en (R 2 2 ). Kies vanaf nu expliciet [ Y =. [.

75 2.2. OPGAVEN 75 Geef in de komende onderdelen voldoende motivatie voor je antwoorden. (b) Bereken H(Y ), T 2. Definieer L : R 2 2 R 2 2 : X Y X en schrijf L voor zijn duale afbeelding. (c) Bepaal de pull-back van T onder L en bereken vervolgens L (T ), Y. Opgave 2.9 Zij (V, K) een vectorruimte met dim(v ) = n N en L hom K (V, V ). Laat L : V V de duale afbeelding zijn van L, en L = (L ) : V V de duale afbeelding van L. Bewijs dat L H = HL, oftewel, dat voor alle v V geldt dat L (H(v)) = H(L(v)) waarbij H : V V het natuurlijke isomorfisme is.

76 76 HOOFDSTUK 2. DUALITEIT

77 Hoofdstuk 3 Niet-negatieve lineaire algebra Het deelgebied van de niet-negatieve lineaire algebra houdt zich bezig met matrices en vectoren waarvan alle entries niet-negatieve (of zelfs positieve) reële getallen zijn. Zulke matrices komen bijvoorbeeld af van een lineaire transformatie L : R n R n die de eigenschap heeft dat het niet-negatieve orthant R n = [, )n R n op zichzelf wordt afgebeeld. Ten opzichte van de standaardbasis ε van R n is de matrix L ε ε van L dan niet-negatief. Echter, ook binnen de stochastiek komen niet-negatieve matrices en vectoren nogal eens voor. Hiervan liggen alle entries vaak zelfs in het interval [, en stellen in die context waarschijnlijkheden voor. We bestuderen daarom de dubbelstochastische matrices en definiëren tevens de permanent van een matrix, een functie die op het eerste gezicht erg lijkt op de determinant, en die ook in de niet-negatieve combinatorische context een belangrijke rol speelt. Binnen diezelfde combinatoriek en in het bijzonder de grafentheorie komen zelfs geregeld /-matrices voor, oftewel matrices waarvan alle entries uit de verzameling {, } komen. 3. Perron-Frobeniustheorie Positieve en niet-negatieve matrices komen veel voor binnen de stochastiek, combinatoriek, en binnen het wiskundig modelleren van allerlei natuurwetenschappelijke fenomenen: temperatuur, dichtheid, en concentratie zijn immers allemaal niet-negatief. Definitie 3.. (Positieve/niet-negatieve matrix) Laat (a ij ) = A R n k. Als a ij > voor alle i, j {,..., n} schrijven we A > en heet A een positieve matrix. Als a ij voor alle i, j {,..., n} schrijven we A en heet A een niet-negatieve matrix. Opmerking 3..2 Overeenkomstig schrijven we A > B als A B > en A B als A B, en bedoelen we met A < B dat B > A, met A B dat B A, enzovoorts. Tot slot schrijven we A voor de matrix waarvan de entries de absolute waarden zijn van die van A. Een waarschuwing is hier op zijn plaats. Als x R en x en x dan is x >. Echter, als A R n k met nk > en A en A, impliceert dit niet dat A positief is: zie bijvoorbeeld de 2 matrix A = [. Deze is niet positief, maar ook niet de nul-matrix. Zonder bewijs vermelden we de volgende elementaire eigenschappen. Lemma 3..3 (E) Als A > en x, x, dan is Ax > ; 77

78 78 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA (E2) Als A > en x > y dan is Ax > Ay; (E3) Als A en x y dan is Ax Ay; (E4) Voor alle A R n k en x R k geldt dat Ax A x ; (E5) Voor alle matrices A en B waarvoor AB bestaat geldt dat AB A B. Deze en dergelijke eigenschappen zullen we in het vervolg vrijelijk toepassen indien nodig. 3.. De Neumannrij en de Neumannreeks Als r R en r < dan is lim k r k+ =, en convergeert tevens de meetkundige reeks r k = r, want + r + r2 + + r k = rk+. (3.) r j= Een vooral theoretisch zeer nuttig overeenkomstig resultaat voor matrices werd bewezen door de Duitse wiskundige Carl Neumann. Carl Neumann ( ) Eerst een definitie, die de voorwaarde r < voor convergentie helpt te generaliseren. Definitie 3..4 (Spectraalstraal) Laat A C n n. De spectraalstraal van A is het reële, niet-negatieve getal ρ(a) = max{ λ λ σ(a)} waarbij σ(a) de verzameling van eigenwaarden van A is, het spectrum van A. De verzameling {z C z ρ(a)} heet de spectrale schijf, met als rand de spectrale cirkel. Dus ρ(a) is de straal van de kleinste gesloten schijf rond C waarop alle eigenwaarden van A liggen, de spectrale schijf. C ρ(a) } ρ(a) is een eigenwaarde Figuur 3. Het spectrum, de spectrale cirkel, de spectrale schijf, en de spectraalstraal.

79 3.. PERRON-FROBENIUSTHEORIE 79 Opmerking 3..5 De spectraalstraal ρ(a) is niet altijd een eigenwaarde. Zie A = [. De met (3.) corresponderende uitspraken verdelen we over een lemma en twee stellingen. Lemma 3..6 Laat λ C met λ < en laat l N. Dan geldt dat ( ) k lim λ k l =. (3.2) k l Bewijs. Dit volgt uit de begrenzing van de binomiaalcoëfficiënt middels ( ) k k! k(k )... (k l + ) = = kl l l!(k l)! l! l!, en de eventueel herhaalde toepassing van de regel van de l Hopital op f(x) = x l λ x. Stelling 3..7 (Neumannrij) Laat A C n n en veronderstel ρ(a) <, dan geldt dat de limiet voor k van de Neumannrij (A k ) k gelijk is aan de nulmatrix, Bewijs. zo, dat lim k Ak =. In Stelling.3.25 bewezen we dat er voor alle A C n n een X GL n (C) bestaat T.... X T.. AX = T p (3.3) waarbij T j = λ j I + M j met M j C m j m j strict bovendriehoeks en dus nilpotent. Hierbij is m j de meetkundige multipliciteit van de eigenwaarde λ j van A. Nu volgt eenvoudig dat T k... A k T = X k Tp k X. Gebruik makend van het feit dat de beide matrices λ j I en M j commuteren, vinden we met behulp van het binomium van Newton dat voor alle k N, T k j = (λ j I + M j ) k = k l= ( ) k λ k l j Mj l = l m j l= ( ) k λ k l j Mj l. l waarbij de laatste gelijkheid geldt omdat M j nilpotent is met index ten hoogste m j. Omdat λ j < wegens de aanname dat ρ(a) < volgt met Lemma 3..6 dat de limiet voor k naar oneindig van T k j gelijk is aan de nulmatrix, en dus ook die van Ak. Opmerking 3..8 De voorwaarde ρ(a) < is noodzakelijk voor de convergentie van de Neumannrij naar nul, maar niet noodzakelijk voor convergentie. Zie bijvoorbeeld A = I. In Sectie 3..3 laten we zien dat lim k A k ook bestaat als A > en ρ(a) =.

80 8 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA Stelling 3..9 (Neumannreeks) Laat A C n n en veronderstel dat ρ(a) <, dan geldt dat A k = (I A). (3.4) j= Bewijs. Voor iedere gehele k geldt dat (I + A + A A k )(I A) = I A k+. De limiet voor k van het rechterlid bestaat volgens Lemma 3..7 en dus vinden we dat A k (I A) = I. j= Omdat I A vierkant is, is de som links van de matrix I A kennelijk zijn inverse.. Dus als N nilpotent is, is I N inverteerbaar met als inverse een polynoom in N. Opmerking 3.. De voorwaarde ρ(a) < is noodzakelijk voor de convergentie van de Neumannreeks in Stelling 3..9, omdat in een convergente som de individuele termen naar nul convergeren. De voorwaarde is echter niet nodig voor de inverteerbaarheid van I A. Zie [ [ 3 2 A = met σ(a) = {2, 4}, I A = 3 2 en merk op dat I A inverteerbaar is wegens det(i A) = 3 ondanks dat ρ(a) = Perron-Frobeniustheorie voor positieve matrices Oskar Perron en Georg Frobenius bewezen resultaten voor eigenwaarden en eigenvectoren van niet-negatieve matrices. Oskar Perron (88-975) en Georg Ferdinand Frobenius (849-97) De bewijzen zijn het eenvoudigst voor positieve matrices. Lemma 3.. Laat A R n n. Als A > dan is zijn spectraalstraal ρ(a) >. Bewijs. Stel dat ρ(a) =. Dit betekent dat alle eigenwaarden van A gelijk zijn aan nul. Maar dan is A nilpotent en bestaat er dus een p met A p =. Echter, als A > dan is duidelijk ook A k > voor alle k. Deze tegenspraak bewijst de bewering. Het volgende lemma is sterker dan het lijkt: uit de aanname dat A > een niet-negatieve eigenvector x heeft, volgt dat x zelfs positief is, met positieve bijbehorende eigenwaarde.

81 3.. PERRON-FROBENIUSTHEORIE 8 Lemma 3..2 Laat A R n n, A >. Als Ax = λx voor zekere x, x, dan volgt dat x > en tevens dat λ >. Bewijs. Omdat x geeft (E) uit Lemma 3..3 dat Ax >. Omdat Ax = λx geldt dus dat λx >. Omdat R n x volgt dat R λ > en dus, tot slot, dat x >. Ondanks dat de spectraalstraal van een matrix doorgaans geen eigenwaarde is, is dit wel het geval indien A >, en bestaat er een positieve eigenvector horende bij ρ(a). Stelling 3..3 Laat A R n n. Als A > dan bestaat er een x > zodanig dat waarbij ρ(a) de spectraalstraal is van A. Ax = ρ(a)x. (3.5) Bewijs. Veronderstel op grond van Lemma 3.. zonder verlies van algemeenheid dat ρ(a) =. Dit impliceert dat er een λ σ(a) bestaat met λ = en een y waarvoor Ay = λy. Voor deze λ en y geldt dat y = λ y = λy = Ay A y = A y, waarbij we gebruik maken van eigenschap (E4) uit Lemma We concluderen dat w = A y y. (3.6) We gaan bewijzen dat zelfs w = door een tegenspraak af te leiden uit de veronderstelling dat w. Omdat A > volgt met (E) uit Lemma 3..3 dat zowel Aw > als dat A y >. Dit verklaart beide ongelijkheden in AA y > A y >. (3.7) Kennelijk is iedere entry van AA y groter dan de overeenkomstige entry van A y. Dus bestaat er een ε > met AA y > A y >. (3.8) + ε Schrijf nu B = A + ε en z = A y. Met deze notatie verandert (3.8) in Bz > z >. Maar dan is met (E2) uit Lemma 3..3 ook B 2 z = B(Bz) > Bz want B >, en met inductie zien we dat B k z > z > voor alle k N. Echter ρ(b) = ρ(a) + ε = + ε <, dus geeft Stelling 3..7 dat B k voor k. Dit is in tegenspraak met B k z > z > voor alle k. Dus w =, oftewel, A y = y. Maar dan is x = y een eigenvector van A behorende bij een eigenwaarde λ = van A, en uit Lemma 3..2 volgt tot slot dat x >. Opmerking 3..4 Het feit dat B k is niet in tegenspraak met B k z > voor alle k. Het is dus noodzakelijk om de ongelijkheid B k z > z > te bewijzen in plaats van slechts B k z >. Dit verklaart de ogenschijnlijke grote hoeveelheid werk in bovenstaand bewijs.

82 82 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA De eigenruimte van de eigenwaarde ρ(a) van A bevat dus een positieve vector x >. We laten zien dat alle andere eigenvectoren behorende bij ρ(a) hier veelvouden van zijn. Stelling 3..5 Laat A R n n en veronderstel dat A >. Dan is dim ker(a ρ(a)i) =. Bewijs. Veronderstel wegens Lemma 3.. zonder verlies van algemeenheid dat ρ(a) =. Uit Stelling 3..3 volgt dat er een x > bestaat met Ax = x. Laat nu y met Ay = y. We tonen aan dat y een veelvoud is van x. Merk hiertoe op dat er een α R bestaat zodanig dat z = y + αx, terwijl z ook ten minste één entry gelijk aan nul heeft. Als nu z volgt uit Az = z en Lemma 3..2 dat z >, wat in tegenspraak is met het feit dat z ten minste één entry gelijk aan nul heeft. Dus z = en dus is y = αx een veelvoud van x. Definitie 3..6 (Perronvector) Laat A R n n met A >. De unieke x > waarvoor Ax = ρ(a)x en e x =, waarbij e = e + + e n de all-ones vector is, heet de Perronvector van A. Opmerking 3..7 Een van de bekendste en recent in de belangstelling staande Perronvectoren is de Google PageRank vector van Larry Page en Sergey Brin. Ter afronding van de Perron-Frobeniustheorie voor positieve matrices tot slot het volgende. Stelling 3..8 De enige eigenwaarde van < A R n n met absolute waarde ρ(a) is ρ(a). Bewijs. Volgens Stelling 3..3 is ρ(a) σ(a). Resteert de uniciteit aan te tonen. Veronderstel op grond van Lemma 3.. zonder verlies van algemeenheid dat ρ(a) =. Laat λ σ(a) met λ =. Dan bestaat er dus een y met Ay = λy. Hiervoor geldt net als in het bewijs van Steling 3..3 dat A y = y >. Per definitie van matrix-vectorvermenigvuldiging impliceren de respectievelijke gelijkheden A y = y en Ay = λy, dat voor alle k {,..., n}, n n y k = a kj y j en λy k = a kj y j (3.9) en dus, j= j= j= n n a kj y j = y k = λy k = a kj y j. (3.) Nu geldt dat de absolute waarde z + + z n van de som van n complexe getallen alleen gelijk is aan de som z + + z n van de absolute waarden als ze allemaal hetzelfde argument hebben, zoals geïllustreerd in Figuur 3.2. C φ j= z + + z n = z + + z n φ = arg(z ) = = arg(z n ) Figuur 3.2 Driehoeksgelijkheid in C alleen bij gelijke argumenten. Dus concluderen we uit (3.) en het feit dat y > dat y k = α k y voor zekere α k > voor alle k {,..., n}. Dus is y een (eventueel complex) veelvoud y α van een positieve vector α. Maar dan is ook α een eigenvector van A behorende bij eigenwaarde λ. En omdat Aα reëel is, gelijk is aan λα, en in het bijzonder positief, is λ ook positief en reëel. Hieruit volgt dat λ =, en dus is λ = de enige eigenwaarde van A op de spectrale cirkel.

83 3.. PERRON-FROBENIUSTHEORIE Von Mises-iteratie De Von Mises-iteratie, ook wel machtsmethode genoemd, is een methode, al veel eerder gebruikt door Jacobi, om een eigenvector te berekenen horend bij de unieke eigenwaarde van A die het grootst is in absolute waarde, en waarvan de eigenruimte dimensie één heeft. Richard von Mises ( ) en Carl Jacobi (84-85) We bewijzen nu dat de Neumannrij (A k ) k N convergeert als ρ(a) = en A >. Het bewijs maakt gebruik van de Neumann rij- en reeks uit Sectie 3.. en van de Schurdecompositie uit Sectie.2.6 en illustreert als zodanig de onderlinge samenhang van diverse gereedschappen. Stelling 3..9 Laat A R n n met A >. Veronderstel dat ρ(a) =. Dan geldt dat waarbij Au = u > met u = en A w = w met w >. lim k Ak = uw (3.) Bewijs. Omdat A > is volgens Stelling 3..3 ρ(a) = een eigenwaarde van A, en bestaat er een unieke positieve eigenvector u > met u = zo, dat Au = u. Dus bestaat er (zie Sectie.2.6) een Schurdecompositie van A van de vorm A = UT U waarbij T = [ b R, met U U = I en Ue = u. De eigenwaarden van de bovendriehoeksmatrix R zijn de eigenwaarden van A ongelijk aan. Op grond van Stelling 3..8 zijn deze allemaal kleiner dan in absolute waarde. Dus ρ(r) <. We berekenen nu machten van A, A k = ( [ b U R ) k [ U b = U R k U. Met volledige inductie kan eenvoudig worden aangetoond dat [ b R k [ b(i + R + + R = k ) R k. (3.2) Omdat ρ(r) < volgt met behulp van Lemma 3..7 en Stelling 3..9 dat [ b(i R) lim k Ak = U U = Ue v U waarbij v = [, b(i R)

84 84 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA en dus vinden we dat lim k Ak = uw waarbij u = Ue en w = v U. Daarnaast geldt kennelijk dat lim k (A ) k = wu en dus is w > een eigenvector bij λ = = ρ(a ) van A.. Gevolg 3..2 Als x R n zodanig is dat w x = α, dat lim k Ak x = u(w x) = αu. Dus, de rij (A k x) k convergeert naar een niet-triviaal veelvoud van de eigenvector bij λ =. Opmerking 3..2 Matrixvermenigvuldiging is associatief: (A k )x = A k (Ax). Het is echter veel rekenwerk om A tot de k-de macht te verheffen en A k te vermenigvuldigen met x. Efficiënter is x = Ax uit te rekenen, dan x 2 = Ax, tot en met x k = Ax k = A k x. Het laatste vergt k matrix-vectorvermenigvuldigingen, het eerste k matrix-matrixvermenigvuldigingen. Het uiteindelijke resultaat is natuurlijk hetzelfde: x k = A k x. Opmerking De Google Pagerankvector wordt in de praktijk niet precies uitgerekend, maar in drie decimalen nauwkeurig benaderd met x k = Ax k = A k x voor zekere k << n. De iteratie x k = Ax k met gegeven x heet de Von Mises-iteratie, of ook wel de machtsmethode Een analytische aanpak van Perron-Frobeniustheorie Perron-Frobeniusstellingen kunnen ook worden bewezen middels technieken uit de Analyse. Definitie (Convexe verzameling) Een verzameling C R n heet convex als voor iedere x, y C geldt dat tx + ( t)y C voor alle t [,. Een belangrijk Nederlands resultaat uit de Analyse zegt het volgende. Stelling (Dekpuntstelling van Brouwer) Laat D R n gesloten, begrensd, en convex zijn, en f : D D continu. Dan bestaat er een x D waarvoor f(x) = x. Luitzen Brouwer (88-966) Opmerking Ingeval D = [a, b een gesloten interval is, zegt de stelling niets anders dan dat de grafiek van f de lijn y = x snijdt, wat direct uit de Tussenwaardestelling volgt.

85 3.. PERRON-FROBENIUSTHEORIE 85 De dekpuntstelling aannemende kan Perron-Frobeniustheorie iets inzichtelijker en intuïtiever worden bewezen. Als voorbeeld hiervan (her-)bewijzen we het volgende resultaat. Stelling Laat A R n n. Als A > dan heeft A een positieve eigenvector behorende bij een positieve eigenwaarde. Bewijs. Associeer met de matrix A > de lineaire afbeelding L A : R n R n, x Ax van het onbegrensde niet-negatieve orthant R n naar zichzelf. Definieer S = {x R n e x = }. Oftewel, S is het deel van het affiene hypervlak met vergelijking x + + x n = dat in R n ligt. In Figuur 3.3 is S de driehoek in R 3 met als hoekpunten de drie standaardbasisvectoren. Merk op dat S gesloten, begrensd, en convex is. Bekijk nu de continue afbeelding K A : S S : x Ax e Ax = Dan is K A continu als quotiënt van continue afbeeldingen. L A(x) e L A (x). R 3 S = {x R 3 e x = } K A : S S x Ax e Ax S Figuur 3.3: Dekpuntstelling van Brouwer toegepast op het domein S. Volgens Stelling is er een x S is met K A (x) = x. Voor deze x geldt dus dat Ax = (e Ax)x. Omdat x S geldt dat x en x. Omdat x en x is Ax >. Omdat Ax = (e Ax)x vinden we dus tot slot dat e Ax > en x >. In plaats van alle Perron-Frobeniusstellingen opnieuw te bewijzen, richten we ons nu op de vraag welke overeenkomstige resultaten gelden voor de klasse van niet-negatieve matrices Niet-negatieve matrices als limiet van positieve matrices We bekijken nu de niet-negatieve matrices A die niet positief zijn. Met andere woorden, we gaan uit van tenminste één entry gelijk aan nul. De volgende observatie is triviaal.

86 86 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA Opmerking Ieder niet-negatieve n n matrix A is de limiet van een rij positieve matrices (A k ) k. Een voorbeeld van zo n rij is waarbij e = e + + e n de all-ones vector is. A k = A + k ee >, Sommige eigenschappen van positieve matrices blijken soms zelfs in de limiet niet meer op te gaan voor niet-negatieve matrices, zoals blijkt uit de volgende voorbeelden. Voorbeeld Laat A =. (3.3) Dan is ρ(a) =, wat inderdaad een limietgeval is van Lemma 3... Tevens is ρ(a) σ(a), net zoals in Stelling Echter A heeft in contrast met Stelling 3..8 heeft A twee lineair onafhankelijke niet-negatieve eigenvectoren horend bij ρ(a). Voorbeeld De matrix A = [. (3.4) heeft twee verschillende eigenwaarden en op de spectrale cirkel, wat wezenlijk anders is dan voor positieve matrices, zie Stelling Omdat [ [ A 2k = en A 2k+ =, bestaat de limiet voor k van A k niet, in tegenstelling tot Stelling 3..9 voor positieve matrices. De limiet van A k x bestaat alleen in het triviale geval x = x 2. Stelling 3..3 Laat A R n n, A. Dan bestaat er een x zo, dat Ax = ρ(a)x. Bewijs. Laat A k = A + k ee > voor iedere k N. Schrijf ρ k = ρ(a k ) en laat p k > de unieke Perronvector van A k zijn, oftewel, A k p k = ρ k p k, e p k =. (3.5) Omdat eigenwaarden continu zijn als functies van de entries van de matrix, zijn ook continue functies van die eigenwaarden, zoals de spectraalstraal, continu. Dus geldt dat lim ρ k = lim ρ(a k) = ρ( lim A k) = ρ(a). (3.6) k k k De verzameling van bijbehorende Perronvectoren {p k } k= is bevat in [, n en dus begrensd. Volgens de stelling van Bolzano-Weierstrass heeft {p k } k= een convergente deelrij {p k l } l=, waarvoor dus geldt lim p k l = p en e p = e lim p kl = lim e p kl = (3.7) l l l waaruit volgt dat p. Tot slot vinden we omdat beide afzonderlijke limieten bestaan dat Ap = lim l A kl En dit bewijst de bewering. lim l p kl = lim l A kl p kl = lim l ρ kl p kl = lim l ρ kl lim l p kl = ρ(a)p. (3.8) Opmerking 3..3 Stelling 3..3 bewijst niet dat de eigenvector p van A de limiet is van de rij (p k ) k N van Perronvectoren van de matrices A k, noch dat deze uniek is.

87 3.. PERRON-FROBENIUSTHEORIE Reducibele en irreducibele niet-negatieve matrices Om verdere resultaten te kunnen bewijzen over niet-negatieve matrices introduceren wat enkele begrippen uit de grafentheorie binnen de lineaire algebra. Definitie (Verbindingsgraaf) Laat (a ij ) = A R n n. De gerichte graaf G(A) = (V, E) bestaande uit de punten (vertices) V = {,..., n} en de pijlen (edges) E V V met (i, j) E als en alleen als a ij heet de verbindingsgraaf van A. Merk op dat deze definitie loops toestaat: pijlen van een punt naar zichzelf. Grafen vormen een wiskundige structuur die voor het eerst werd bestudeerd door Euler. Leonhard Euler (77-783) Omgekeerd kunnen we met iedere gerichte graaf een matrix associëren. Definitie (Verbindingsmatrix) Zij G = (V, E) met V = {,..., n} een gerichte graaf. De matrix (m ij ) = M(G) {, } n n waarvoor m ij = als en alleen als er in G een pijl van vertex i naar vertex j gaat heet de verbindingsmatrix van G. Dus m ij = (i, j) E. Voorbeeld Hier tekenen we de verbindingsgraaf G(A) van de gegeven matrix A en de verbindingsmatrix M(G(A)) van die graaf. A = G(A) = M(G(A)) = 4 3 Merk op dat A = M(G(A)) als en alleen als A een /-matrix is, oftewel, als A {, } n n. Definitie (Wandeling) Zij G = (V, E) een gerichte graaf en p N. Dan heet een rij (v,..., v p ) V p+ van punten in G een wandeling van lengte p van v naar v p als (v k, v k+ ) E voor alle k {,..., p }. Opmerking De wandelingen in G = (V, E) van lengte zijn precies de edges e E. Voorbeeld Er zijn precies tien wandelingen van lengte twee in de verbindingsgraaf G(A) van A uit Voorbeeld 3..34, te weten (, 2, 3), (, 2, 4), (2, 3, 4), (2, 4, ), (2, 4, 2), (3, 4, ), (3, 4, 2), (4,, 2), (4, 2, 3), (4, 2, 4). Dit zijn uiteraard alle mogelijkheden om een wandeling van lengte met stap uit te breiden.

88 88 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA De volgende stelling veralgemeniseert de observatie uit het voorgaande voorbeeld. Stelling Zij G een graaf met verbindingsmatrix B = M(G). Schrijf w(i, j, k) voor het aantal verschillende wandelingen in G van i naar j van lengte k. Dan geldt dat Het rechterlid is de entry van B k op positie (i, j). w(i, j, k) = e i B k e j. (3.9) Bewijs. Laat l,..., l p de vertices zijn die een wandeling van lengte één verwijderd zijn van i, oftewel, de directe buren van i. Deze buren zijn als volgt verkrijgbaar uit de i-de rij van B, Daarnaast geldt natuurlijk dat e i B = (e l + + e lp ). (3.2) w(i, j, k) = w(l, j, k ) + + w(l p, j, k ). (3.2) Veronderstel nu als inductie-hypothese dat (3.9) correct is voor alle wandelingen van lengte k, oftewel, dat w(i, j, k ) = e i B k e j (3.22) voor alle i, j. Dan vinden we in combinatie met (3.2) en (3.2) dat w(i, j, k) = e l B k e j + + e l p B k e j = (e l + + e lp ) B k e j = e i BB k e j (3.23) en dus is (3.9) ook geldig voor het bepalen van de hoeveelheid verschillende wandelingen van lengte k. Omdat de inductie-basis is verwoord in Opmerking bewijst dit de stelling. Het bewijs van Stelling is gevisualiseerd in Figuur 4.3. l e l B k e j e i B = e l + + e l p i l 2 e l 2 B k e j j. e l B k e j + +e l p B k e j = ( e i B ) B k e j = e i Bk e j l p e l p B k e j Figuur 4.3 Illustratie van het bewijs van Stelling Voorbeeld Keren we terug naar Voorbeeld 3..34, dan berekenen we dat M(G(A)) 2 = =. (3.24) De entries ongelijk aan nul in M(G(A)) 2 komen overeen met de tien wandelingen van lengte twee in G(A) die zijn opgesomd in Voorbeeld

89 3.. PERRON-FROBENIUSTHEORIE 89 Definitie 3..4 (Drager) De drager supp(a) van een matrix (a ij ) = A K n k is de verzameling van alle paren (i, j) waarvoor a ij. Opmerking 3..4 Als A dan is supp(a) = supp(m(g(a))). Ook geldt dat de dragers van M(G(A)) k en A k dan aan elkaar gelijk zijn. Zo geldt bijvoorbeeld schematisch dat = ongeacht de exacte waarden van de positieve entries. Dit komt doordat voor alle x, y het inproduct x y, en dat x y = als en alleen als supp(x) supp(y) =. We formuleren dit resultaat zonder verder bewijs in de volgende stelling. Stelling Laat k N, A, B. Als supp(a) = supp(b), dan supp(a k ) = supp(b k ). We introduceren nu tot slot een combinatorische eigenschap van matrices die de Perron- Frobeniustheorie voor positieve matrices deels laat generaliseren voor niet-negatieve matrices. Definitie (Reducibiliteit) Gegeven A R n n met verbindingsgraaf G(A). Als er in G(A) voor ieder paar i, j {,..., n} een wandeling van i naar j bestaat dan heet A irreducibel. Als A niet irreducibel is, heet A reducibel. Gevolg Een niet-negatieve matrix A R n n is irredicibel als en alleen als voor ieder paar i, j {,..., n} er een k n bestaat zo, dat e i Ak e j >. Bewijs. Dit volgt uit Stelling in combinatie met Stelling (want A is niet noodzakelijkerwijs gelijk aan M(G(A))) en de observatie dat als er een wandeling bestaat van i naar j in G(A), dan bestaat er ook een van lengte ten hoogste n. Opmerking Irreducibiliteit van A impliceert niet dat er een N N bestaat zo, dat A k > voor alle k N. Zie bijvoorbeeld de duidelijk irreducibele matrix A horend bij de graaf of drie vertices, 2, 3 met pijlen 2, 2 3 en 3, A =, A 2 =, A 3 =,, A 4 = A. Dus is (e i Ak e j ) k N is een 3-periodieke rij voor ieder paar i, j {,..., n}, en dus is voor ieder paar i, j {,..., n} tenminste één van de matrices A, A 2, A 3 positief op positie (i, j). Gevolg A R n n is irreducibel als en alleen als A + A A n >. De volgende stelling bewijst hetzelfde voor een eenvoudiger ogend polynoom in A. Stelling A R n n met n 2 irreducibel als en alleen als (I + A) n >.

90 9 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA Bewijs. Veronderstel dat A irreducibel is. Laat i j. Per definitie bestaat er een wandeling van i naar j. De kortste wandeling van i naar j heeft uiteraard lengte ten hoogste n. Definieer nu de graaf G als G(A) met daaraan toegevoegd voor iedere vertex een extra pijl naar zichzelf indien deze niet al bestaat. Dan heeft G de volgende eigenschappen: G = G(I + A); er bestaat een wandeling in G van lengte n van iedere vertex i naar zichzelf; ieder wandeling van lengte l < n van i naar j kan worden aangevuld tot lengte n. Omdat er in G(A + I) voor ieder tweetal punten i, j {,..., n} een wandeling van lengte precies n bestaat van i naar j, volgt uit Stelling dat alle entries van [M(G(A+I)) n positief zijn. Stelling geeft nu dat ook (A + I) n >. Dit bewijst de bewering in de ene richting. Om de te bewijzen dat A irreducibel is als (A + I) n >, merk op dat dit laatste impliceert dat de verbindingsgraaf G(A + I) van A + I voor ieder paar i, j {,..., n} een wandeling bevat van i naar j, en in het bijzonder voor elk paar i, j met i j. De verbindingsgraaf G(A) van A ontstaat uit G(A + I) door het eventueel verwijderen van een aantal pijlen van een punt i naar zichzelf. Dit verwijdert wellicht wandelingen van i naar zichzelf van lengte één. Echter, als n 2 dan is er een wandeling van i naar een punt j i, en een wandeling van j naar i, en dus ook een wandeling van i naar zichzelf. Opmerking De matrix A = [ is reducibel. Echter, (I + A) = ( + ) = = >. Dit laat zien dat de aanname dat n 2 in de vorige stelling niet kan worden gemist Perron-Frobeniustheorie voor irreducibele niet-negatieve matrices Laat A. Veronderstel dat A irreducibel is. Dan weten we dat B = (A+I) n >. Dus op B is de Perron-Frobeniustheorie voor positieve matrices van toepassing, en we concluderen: Lemma 3..: < ρ(b) σ(b), Stelling 3..3: er bestaat een x > waarvoor Bx = ρ(b)x, Stelling 3..5: de dimensie van de kern van B ρ(b)i is gelijk aan één, Stelling 3..8: ρ(b) is de enige eigenwaarde van B die op de spectrale cirkel ligt. We destilleren hieruit de volgende informatie over de matrix A zelf. Lemma Laat A R n n en B = (I + A) n. Dan geldt λ σ(a) ( + λ) n σ(b). (3.25) Bewijs. Laat Av = λv. Dan is (I + A)v = v + λv = ( + λ)v, en dus (I + A)(I + A)v = (I + A)( + λ)v = ( + λ) 2 v. Een eenvoudig inductie-argument bewijst nu de bewering. Lemma 3..5 Laat A R n n. Veronderstel dat A irreducibel is. Laat B = (I +A) n. Dan geldt dat ρ(b) = ( + ρ(a)) n. (3.26)

91 3.2. DUBBELSTOCHASTISCHE MATRICES EN DE PERMANENT 9 Bewijs. De eigenwaarden van B zijn gelijk aan ( + λ) n+, met λ σ(a), en dus is ρ(b) = max λ σ(a) ( + λ)n = ( max λ σ(a) + λ )n = ( + ρ(a)) n. De tweede gelijkheid geldt omdat er een λ σ(a) bestaat zo, dat + λ, namelijk λ = ρ(a) σ(a). De derde geldt omdat als de schijf z ρ één naar rechts verschuift in C, het punt met grootste modulus in de verschoven schijf het punt z = + ρ is. Lemma 3..5 Laat A R n n. Veronderstel dat A irreducibel is. Dan is ρ(a) >. Bewijs. Omdat A irreducibel is, bestaat er wegens Definitie een wandeling van zekere positieve lengte k van vertex naar in de verbindingsgraaf G(A) van A. Maar dan bestaat er ook een wandeling van naar van lengte lk voor alle l N. Wegens Stelling geldt nu dat e Akl e > voor alle l N. Dus is A niet nilpotent, en dus is ρ(a) >. Stelling Laat A R n n. Als A irreducibel is dan bestaat er een v > zo, dat Av = ρ(a)v. Tevens is dim(ker(a ρ(a)i)) =. Bewijs. Volgens Stelling 3..3 is ρ(a) een eigenwaarde van A en bestaat er een v zo, dat Av = ρ(a)v. Laat nu B = (I + A) n. Dan is Bv = ( + ρ(a)) n v = ρ(b)v wegens Lemma en Lemma 3..5 en dus is v een veelvoud van de positieve Perronvector van B. Deze v is dus een positieve eigenvector van A horende bij eigenwaarde ρ(a). Tot slot, stel dat ook Aw = ρ(a)w voor zekere w R n. Dan volgt met Lemma en Lemma 3..5 dat Bw = ρ(b)w. Omdat volgens Stelling 3..5 dim(ker(b ρ(b)i)) = zijn v en w lineair afhankelijk. Dus is ook de kern van A ρ(a)i ééndimensionaal. Opmerking De eigenschap dat een positieve matrix precies één eigenwaarde op de spectrale cirkel heeft, geldt niet voor irreducibele niet-negatieve matrices. De matrix B uit (3.3) die twee verschillende eigenwaarden heeft op de spectrale cirkel is immers irreducibel. 3.2 Dubbelstochastische matrices en de permanent Een belangrijke klasse van niet-negatieve matrices komt voort uit het vakgebied van de stochastiek. De entries representeren bepaalde kansen en liggen daarmee in het interval [,. De naam Markov is onlosmakelijk met dergelijke matrices verbonden. Verderop komen we ook een belangrijk resultaat tegen van König. Andrej Markov ( ) en Dénes König ( )

92 92 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA Schrijf zoals gebruikelijk e = e + + e n voor de som van de standaardbasisvectoren in R n. Dan is Ae de vector met rijsommen van A, en e A de vector met kolomsommen van A. Definitie 3.2. (Stochastische matrices) Een niet-negatieve matrix S heet rijstochastisch als Se = e en kolomstochastisch als e S = e, en dubbelstochastisch indien beide het geval is. We schrijven Ω n R n n voor de deelverzameling van dubbelstochastische matrices. Voorbeeld De eenvoudigste voorbeelden van dubbelstochastische matrices zijn de permutatiematrices. Voor n = 3 zijn dit de zes matrices,,,,, Andere voorbeelden van dubbelstochastische matrices zijn magische vierkanten gedeeld door hun magische som, en de constante matrices C n waarvan alle entries gelijk zijn aan /n, M 3 = en M 4 = , C 3 = 3 Opmerking Dubbelstochastische matrices spelen verrassend vaak een belangrijke rol in deelgebieden van de wiskunde die schijnbaar niets met stochastiek van doen hebben. De permutatiematrices uit bovenstaand voorbeeld blijken de elementaire bouwstenen te zijn van alle dubbelstochastische matrices, en verdienen daarom een formele definitie. Definitie (Permutatiematrices) Schrijf S n voor de groep van alle bijecties σ : {,..., n} {,..., n} : i σ(i), (3.27) oftewel, S n is de symmetrische groep op {,..., n}. Voor gegeven σ S n is Π σ = [e σ()... e σ(n) (3.28) de permutatiematrix bestaande uit de door σ gepermuteerde standaard basisvectoren. Opmerking In Definitie wordt impliciet een groepshomomorfisme gedefinieerd, h : S n GL n (R) : σ Π σ. Het is namelijk niet moeilijk om na te gaan dat voor alle τ, σ S n, h(τ σ) = Π τ σ = Π τ Π σ = h(τ)h(σ). De studie van groepshomomorfismes G GL(V ) met onder andere als doel de structuur van een groep G te bestuderen binnen een vertrouwdere context heet representatietheorie. De volgende observaties zijn nuttig voor het begrip van dubbelstochastische matrices...

93 3.2. DUBBELSTOCHASTISCHE MATRICES EN DE PERMANENT 93 Lemma Laat σ, τ S n en M, N Ω n. Dan geldt Π σ MΠ τ Ω n en MN Ω n. Oftewel, de verzameling Ω n van dubbelstochastische matrices is gesloten onder rij- en kolompermutaties en vormt een halfgroep ten opzichte van de gebruikelijke matrixvermenigvuldiging. Bewijs. De tweede bewering volgt doordat Ne = e en e M = e en dus, MNe = Me = e en e MN = e N = e. De eerste bewering is een speciaal geval van de tweede. Opmerking Veronderstel dat M Ω n inverteerbaar is. Dan geldt natuurlijk dat M e = e en e M = e. Echter, M Ω n als en alleen als M een permutatiematrix is. Definitie (Convexe combinatie) Zij V een reële vectorruimte. Gegeven v,..., v m V heet v een convexe combinatie van v,..., v m als geldt dat m m v = µ j v j waarbij µ j = en j {,..., n} : µ j. (3.29) j= j= Iedere convexe combinatie is dus een specifieke lineaire combinatie van gegeven vectoren. Lemma Laat n N. Iedere convexe combinatie M = σ S n µ σ Π σ, µ σ (σ S n ) en van permutatiematrices is dubbelstochastisch. σ S n µ σ = (3.3) Bewijs. Het is duidelijk dat M, en bovendien geldt dat Me = µ σ Π σ e = µ σ e = e σ S n σ S n en e M = e µ σ Π σ = µ σ e Π σ = µ σ e = e, σ S n σ S n σ S n waarbij we gebruikten dat Π σ dubbelstochastisch is. Dit bewijst de bewering De stelling van Birkhoff-Van Neumann De omgekeerde implicatie van Lemma lijk intuïtief duidelijk, maar is desondanks toch een behoorlijk pittige stelling Garrett Birkhoff (9-996) en John von Neumann (93-957)

94 94 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA Hij is vernoemd naar Garrett Birkhoff en John Von Neumann. Stelling 3.2. (Birkhof-Von Neumann) Zij M een dubbelstochastische n n matrix. Dan is M = µ σ Π σ met µ σ en µ σ =. (3.3) σ S n σ S n Oftewel, iedere dubbelstochastische matrix is een convexe combinatie van permutatiematrices. Het bewijs van deze steling vereist flink wat wat voorbereiding. Deze voorbereiding motiveren we eerst door het bewijs met een voorbeeld aannemelijk te maken. Definitie 3.2. (Diagonaal (combinatorisch)) Laat A K n n met entries a ij. Binnen het wiskundige deelgebied van de combinatoriek heet voor iedere σ S n de deelverzameling d σ = {a σ(),..., a nσ(n) } een diagonaal van A. Dit generaliseert het concept van de gebruikelijke (hoofd-)diagonaal. Als d σ uit positieve getallen bestaat, noemen we d σ een positieve diagonaal. Opmerking Helaas sluit deze definitie niet heel mooi aan op Definitie 3.2.4, in de zin dat d σ niet precies de positieve diagonaal van Π σ is, maar die van Π σ = Π σ = Π σ. Dit zou natuurlijk eenvoudig rechtgezet kunnen worden door de definitie van diagonaal aan te passen tot d σ = {a σ(),..., a σ(n)n } maar om historische redenen kiezen we ervoor dat hier niet te doen. Voorbeeld Beschouw het 3 3 magische vierkant met rij- en kolomsommen gelijk aan 5, 8 6 M = De matrix M heeft zes diagonalen in de zin van Definitie We zien dat bijvoorbeeld de hoofddiagonaal 8, 5, 2 positief is, met minimum element 2. Dus is M schrijven als 2I + N, M = = = 2I + N, waarbij N niet-negatief is, en de rijen en kolommen van N allemaal optellen tot 3 en de drager van N strict kleiner is dan die van M. De hoofddiagonaal van N is niet positief, maar de diagonaal {6, 7, 9} wel, en dus is N = 6J + P, N = = = 6J + P,

95 3.2. DUBBELSTOCHASTISCHE MATRICES EN DE PERMANENT 95 waarbij P niet-negatief is met rij- en kolomsommen gelijk aan 7, en kleinere drager heeft dan N. Zo doorgaande vinden we M = en dus hebben we M geschreven als som van positieve veelvouden van permutatiematrices. De hier gevolgde strategie ligt niet uniek vast, maar berust op keuzes voor positieve diagonalen. De strategie in het voorgaande voorbeeld is succesvol als iedere niet-negatieve matrix waarvan alle rijen en kolommen optellen tot hetzelfde positieve getal, een positieve diagonaal heeft. Om dit te bewijzen bekijken we nu eerst een stelling over niet-negatieve matrices zonder positieve diagonalen. Dergelijke matrices bevatten noodzakelijkerwijs behoorlijk wat nullen. Voorbeeld Het is eenvoudig na te gaan dat de volgende matrices geen positieve diagonaal hebben: en en. Dit komt doordat deze matrices een k l blok met nullen hebben, dat zo groot is (namelijk k + l = 4 = n + ), dat de k rijen naast dit blok in minder dan k kolommen liggen, en er dus geen positieve diagonaal langs dit blok met nullen gelegd kan worden. Opmerking Laat σ, τ S n. Als A R n n geen positieve diagonaal heeft, dan heeft ook Π σ AΠ τ geen positieve diagonaal. Stelling (Frobenius-König) Een niet-negatieve n n matrix A heeft geen positieve diagonaal als en alleen als er indexverzamelingen {i,..., i k } en {j,..., j l } bestaan met k + l = n + waarvoor a ij = indien i {i,..., i k } en j {j,..., j l }. Bewijs. Veronderstel op grond van Opmerking zonder verlies van algemeenheid dat [ B C A = met R k l, waarbij k + l = n +. (3.32) D De matrix D met k rijen heeft wegens k + l = n + minder dan k kolommen. Laat nu d σ een diagonaal van A zijn. De laatste k entries van d σ staan (per definitie) in k verschillende kolommen van A. Dus tenminste één van die entries staat niet in D en dus heeft A in (3.32) geen positieve diagonaal. We bewijzen nu de omgekeerde bewering met inductie. Als A een niet-negatieve matrix is zonder positieve diagonaal, volgt dat A = [ en heeft A inderdaad een k l deelmatrix gelijk aan nul met k + l = n +. Als inductiehypothese nemen we aan dat iedere niet-negatieve (n ) (n ) matrix zonder positieve diagonaal een p q deelmatrix gelijk aan nul heeft met p + q = n. Laat nu A R n n niet-negatief zijn en veronderstel dat A geen positieve diagonaal heeft. Als A de nulmatrix is, is er niets te bewijzen. Neem daarom zonder verlies van algemeenheid aan dat de entry a van A positief is en schrijf [ a c A =. (3.33) b B

96 96 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA Omdat a > en A geen positieve diagonaal heeft, volgt dat B geen positieve diagonaal heeft. Dus heeft B een p q deelmatrix gelijk aan nul met p + q = n. Zonder verlies van algemeenheid veronderstellen we dit blok rechts-onder in B. Dus: [ E F A = G waarbij G R p p en F R q q kennelijk vierkante matrices zijn. Als d G en d F diagonalen zijn van G en F, dan is d G d F een diagonaal van A. Omdat A geen positieve diagonaal heeft impliceert dit dat tenminste één van de matrices F en G geen positieve diagonaal heeft. Neem weer zonder verlies van algemeenheid aan dat G geen positieve diagonaal heeft. De inductiehypothese laat zien dat G dan een s t nulblok heeft met s + t = p +. Samen met het nulblok rechts van G geeft dit het gevraagde k l blok nullen in A met k + l = n +. Gevolg Laat M Ω n. Dan heeft M een positieve diagonaal. Bewijs. Laat M en veronderstel dat M geen positieve diagonaal heeft. De Stelling van Frobenius-König laat zien dat de rijen en kolommen van M dan gepermuteerd kunnen worden tot Π MΠ 2 = [ A B D, (3.34) waarbij D p rijen heeft en q < p kolommen. Als de rijen van D optellen tot één, tellen alle entries van D op tot p. Maar dan telt minstens één kolom van D op tot ten minste p/q >. Hieruit volgt dat de matrix in (3.34) niet dubbelstochastisch is, en dus M Ω n. Na al deze voorbereiding kunnen we nu de Stelling van Birkhoff-Von Neumann bewijzen. We doen dit middels een eindig inductie-argument naar de grootte van de drager. Bewijs. Omdat iedere M Ω n wegens Gevolg 3.2.7) een positieve diagonaal heeft, bestaat de drager van M uit minimaal n elementen. Als inductiebasis beschouwen we het geval dat de drager van M Ω n uit n elementen bestaat. Duidelijk is dat M dan een permutatiematrix is. Veronderstel nu als inductiehypothese dat iedere M Ω n waarvan de drager uit q elementen bestaat, met n q p te schrijven is als convexe combinatie van maximaal p (n ) permutatiematrices. Beschouw nu een M Ω n met een drager van p + elementen. Dan heeft M wegens Gevolg een positieve diagonaal d σ. Het minimale element d σ van deze diagonaal is uiteraard positief, maar ook kleiner dan omdat M behalve de diagonaal d σ nog minstens één entry groter dan nul heeft. Laat nu N = d σ ( M d σπ σ Het is eenvoudig na te gaan dat N Ω n, en dat N een drager heeft met maximaal p elementen. Volgens de inductiehypothese geldt dat ). N = p (n ) j= µ j Π j met p (n ) j= µ j = en m j, j {,..., p (n )}, waarbij sommige u j mogelijk gelijk aan nul zijn. En dus is M = d σπ σ + ( d σ)n

97 3.2. DUBBELSTOCHASTISCHE MATRICES EN DE PERMANENT 97 en dit is een convexe combinatie van ten hoogste p + (n ) permutatiematrices. Omdat bovenstaand bewijs een sterker resultaat is dan de bewering in Stelling 3.2., scherpen we deze stelling nog wat aan tot de volgende. Stelling (Birkhof-Von Neumann) Laat M Ω n. Veronderstel dat M een drager van p elementen heeft. Dan is M = p (n ) j= µ σj Π σj met µ σj en p (n ) j= µ σj =. (3.35) Iedere M Ω n is dus een convexe combinatie van hooguit n 2 n + permutatiematrices. Bovenstaande kan deels geherformuleerd worden in termen van de permanent van een matrix De permanent van een matrix De definitie van de permanent van een matrix heeft veel weg van die van de determinant. Definitie (Permanent) De permanent per(a) van een n n matrix A = (a ij ) is het getal per(a) = σ S n a σ() a 2σ(2)... a nσ(n). (3.36) De permanent is dus de som van alle diagonaalproducten van een matrix, waarbij we met het diagonaalproduct van een diagonaal d σ het product van alle getallen in d σ bedoelen. Opmerking Als A {, } n n is per(a) het aantal positieve diagonalen van A. Als A niet-negatief is dan is per(a) > als en alleen als A een positieve diagonaal heeft. Voorbeeld Voor 2 2 matrices A is terwijl voor 3 3 matrices A per(a) = a a 22 + a 2 a 2 per(a) = a a 22 a 33 + a a 23 a 32 + a 2 a 2 a 33 + a 2 a 23 a 3 + a 3 a 2 a 32 + a 3 a 22 a 3. (3.37) Opmerking De permanent is net als de determinant een voorbeeld van een Schurfunctie. Dat is een matrixfunctie van de vorm σ S n f(σ)a σ() a 2σ(2)... a nσ(n), waarbij f : S n C een groepshomomorfisme is. Dit homomorfisme is voor de permanent het triviale homomorfisme σ en voor de determinant is het σ sign(σ). We kunnen enkele resultaten uit Sectie 3.2 herformuleren middels de permanent. Zo laat de Stelling van Frobenius-König zien wanneer de permanent van een matrix nul is. Net als voor de determinant heeft dat een duidelijke, in dit geval combinatorische, interpretatie.

98 98 HOOFDSTUK 3. NIET-NEGATIEVE LINEAIRE ALGEBRA Stelling (Frobenius-König) Laat A. Dan is per(a) = als en alleen als er permutaties σ, τ S n bestaan zo, dat [ B C Π σ AΠ τ = D en waarin de nulmatrix afmetingen k l heeft met k + l = n +. Gevolg wordt in de nieuwe terminologie het volgende. Stelling Voor alle M Ω n geldt dat per(m) >. De volgende aanscherping van dit laatste resultaat vermelden we om historische redenen: hij werd in eerste instantie in 926 als vermoeden geformuleerd door Van der Waerden. Schrijf zoals eerder C n voor de matrix in Ω n waarvan alle entries gelijk zijn aan /n. Stelling Voor alle M Ω n geldt per(m) per(c n ) = n n n!. De hier geformuleerde ongelijkheid lijkt niet onaannemelijk maar werd pas in 98 bewezen en heeft ervoor gezorgd dat de permanent enkele decennia uitvoerig onder de loep is genomen, ondanks dat hij lang daarvoor al geïntroduceerd werd door Augustin-Louis Cauchy. Augustin-Louis Cauchy ( ), Bartel Leendert van der Waerden (93-996), Herbert John Ryser ( ), en Henryk Minc (99-23) Eén van de ontwikkelingen was het algoritme van Ryser in Sectie 3.2.5, tot op heden één van de snelste manieren om de permanent van een matrix te berekenen. Het naslagwerk Permanents van Henryk Minc is een beroemd boek dat vrijwel alleen over de permanent gaat De permanent versus de determinant De permanent lijkt sterk op de determinant. Zo geldt bijvoorbeeld dat per(i) = det(i) = waarbij I de identiteitsmatrix is; de permanent en de determinant zijn lineair in ieder van de rijen. Laat nu σ S n een transpositie zijn, oftewel, het omwisselen van twee elementen. Dan geldt det(π σ A) = det(a) maar per(π σ A) = per(a). (3.38) Dit ogenschijnlijk onschuldige onderscheid tussen beide heeft verstrekkende consequenties. Zo is de permanent van een matrix met twee gelijke rijen niet altijd nul. Wel is de permanent net als de determinant te berekenen door rij- en/of kolom-ontwikkeling.