Practicum NLA : Iteratieve methodes

Transcriptie

1 Practicum NLA : Iteratieve methodes vrijdag 26 november Diffusievergelijkingen In dit practicum bestuderen we methodes voor het oplossen van diffusievergelijkingen. Heel wat processen kunnen door dit soort vergelijkingen gemodelleerd worden. Op het einde van dit practicum geven we enkele eenvoudige voorbeelden. 1.1 Eendimensionaal De eendimensionale diffusievergelijking ziet er als volgt uit u t = αu xx + δu + f, x Ω = [0, 1], t 0. (1) De constanten α en δ en de functie f(x, t) zijn gegeven en de functie u(x, t) wordt gezocht. Voor fysisch zinvolle situaties is α positief. De beginwaarde u(x, 0) = u 0 (x) is gegeven voor x Ω evenals de randvoorwaarden u(x, t) = g(x, t) voor x Ω = {0, 1} en t > 0. Deze eendimensionale vergelijking kan bijvoorbeeld de evolutie van de temperatuur in een dunne staaf modeleren, gegeven de begintemperatuur en de temperatuur aan de randen. 1.2 Tweedimensionaal Op gelijkaardige wijze kunnen we een tweedimensionale vergelijking definiëren op het eenheidsvierkant u t = αu xx + βu yy + δu + f, (x, y) Ω = [0, 1] 2, t 0. (2) De constanten α en β worden positief verondersteld. De begin- en randvoorwaarden zijn u(x, y, 0) = u 0 (x, y), (x, y) Ω, (3) u(x, y, t) = g(x, y, t), (x, y) Ω, t > 0. (4) Deze tweedimensionale vergelijking kan bijvoorbeeld de temperatuur in een dunne rechthoekige plaat modeleren. 1

2 1.3 Driedimensionaal Voor het driedimensionale geval krijgen we u t = αu xx + βu yy + γu zz + δu + f (x, y, z) Ω = [0, 1] 3, t 0. (5) De constanten α, β en γ worden positief verondersteld. De begin- en randvoorwaarden zijn u(x, y, z, 0) = u 0 (x, y, z), (x, y, z) Ω, u(x, y, z, t) = g(x, y, z, t), (x, y, z) Ω, t > 0. Deze vergelijking kan bijvoorbeeld de temperatuur in een blok materiaal modeleren. 2 Discretisatie Het exact oplossen van de voorgaande vergelijkingen is niet altijd praktisch en voor niet-lineaire vergelijkingen vaak zelfs onmogelijk. Dikwijls worden daarom numerieke benaderingen gezocht. Meestal zal de benadering gevonden worden door het oplossen van een stelsel van vergelijkingen. We bekijken eerst een mogelijke manier om tot zo n stelsel te komen. Verderop wordt dan onderzocht welke numerieke methodes gebruikt kunnen worden voor het oplossen van de bekomen stelsels. 2.1 Eendimensionaal We delen het eenheidsinterval op in n x gelijke deelintervallen en zoeken een benaderende oplossing op het rooster x i = i x, met i = 0,..., n x en x = n 1 x. Voor de tijdsdimensie gebruiken we het rooster t l = l t, met l = 0, 1,... We kunnen de volgende benaderingen gebruiken voor functiewaarden en afgeleiden. u(x i, t l ) u i,l, u t (x i, t l ) u i,l u i,l 1, u xx (x i, t l ) u i 1,l 2u i,l + u i+1,l t x 2. Invullen van deze benaderingen in (1) levert het volgende stelsel op voor de onbekenden u i,l met i = 1,..., n x 1 en l = 1, 2,... u i,l u i,l 1 t = α x 2 (u i 1,l 2u i,l + u i+1,l ) + δu i,l + f i,l. (6) Vermits de waarden u 0,l en u nx,l bepaald zijn door de randvoorwaarden, kunnen we aan de hand van de waarden u i,l 1 de waarden u i,l in een volgende tijdstap bepalen door het oplossen van een stelsel met n x 1 onbekenden. Uitgaande van de beginwaarden u i,0 = u 0 (x i ) kunnen we dus alle opeenvolgende tijdstappen bepalen. Opgave 1 Schrijf het stelsel uit voor α = 1, δ = 0, l = 1, n x = 4 en algemene t en f. Opgave 2 Geef de matrix voor het voorgaande stelsel. 2

3 Opgave 3 Geef een algemene uitdrukking (dus voor willekeurige α, δ, x en t) voor de matrix A van het stelsel Ax = b met als vector van onbekenden x = [u 1,l u nx 1,l] T. Zorg dat lim t A een matrix met eindige elementen oplevert. Maak gebruik van de (n x 1) (n x 1) matrix L (1) L (1) x = x Tweedimensionaal Voor de tweedimensionale diffusievergelijking gebruiken we de roosterpunten (x i, y j ) = (i x, j y) = (in 1 x, jn 1 y ) en dezelfde tijdsdiscretisatie als voor het eendimensionale geval. Opgave 4 Gebruik dezelfde werkwijze als in het eendimensionale geval om een stelsel van de vorm (6) op te stellen voor de onbekenden u i,j,l u(x i, y j, t l ). Opgave 5 Geef een algemene uitdrukking (dus voor willekeurige α, β, δ, x, y en t) voor de matrix A van het stelsel Ax = b met als vector van onbekenden x = [u 1,1,l u nx 1,1,l u 1,ny 1,l u nx 1,n y 1,l] T. Let op, de volgorde van de elementen is belangrijk. Maak gebruik van de (n y 1)(n x 1) (n y 1)(n x 1) matrices L (2) x en L (2) y. 2I x I x L (1) x L (2) x =. I x 2I x I x.., L(2) y = L (1) x I x 2I x I x I x 2I x is de matrix gebruikt voor het eendimensionale geval en I x is een (n x 1) (n x 1) eenheidsmatrix. Het kan nuttig zijn om de matrices L (2) x en eens uit te schrijven. De submatrix L (1) x L (2) y 3 Splitsingsmethodes Een splitsingsmethode voor het oplossen van het stelsel Ax = b maakt gebruikt van een iteratie van de vorm P x (ν) = Qx (ν 1) + b, (7) 3

4 waarbij A = P + Q. In wat volgt veronderstellen we dat A symmetrisch is en gebruiken we de splitsing A = L + D + L T, met L het strikt onderdriehoeksdeel en D de diagonaal van A. Gebruiken we P jac = D en Q jac = L + L T dan krijgen we de zogenaamde Jacobi iteratie. Gebruiken we P gs = L + D en Q gs = L T dan krijgen we de zogenaamde Gauss-Seidel iteratie. Opgave 6 Formuleer de Jacobi en Gauss-Seidel iteraties voor het 1D geval (6) als een lus die u (ν) i,l berekent in functie van u (ν 1) i,l. Opgave 7 Formuleer de Jacobi en Gauss-Seidel iteraties voor het stelsel uit opgave 4 als twee geneste lussen die u (ν) i,j,l berekenen in functie van u(ν 1) i,j,l. Opgave 8 Geef een belangrijk voordeel van een implementatie die de aanpak uit opgaven 6 en 7 gebruikt in plaats van ijle matrices. 4 Convergentie In dit deel leiden we enkele theoretische resultaten af die ons meer informatie geven over de prestaties van iteratieve methodes voor onze problemen. De eigenwaarden van de matrix van het stelsel dat we willen oplossen spelen een belangrijke rol. Wanneer de matrices voortkomen uit discretisatie van diffusievergelijkingen met constante coëficiënten bestaan er eenvoudige uitdrukkingen. Opgave 9 Geef een uitdrukking voor de eigenwaarden van de matrix A uit opgave 3 (het eendimensionale geval) als je weet dat de eigenwaarden van L (1) x gegeven worden door λ 1 i = 2(1 + cos(iπ x)), i = 1,..., n x 1. Opgave 10 Geef een uitdrukking voor de eigenwaarden van de matrix A uit opgave 5 (het tweedimensionale geval) als je weet dat de eigenwaarden van ηl (2) x + θl (2) y gegeven worden door λ 2 i,j = 2η(1+cos(iπ x)) 2θ(1+cos(jπ y)), i = 1,..., n x 1, j = 1,..., n y 1. We kunnen iteratie (7) ook schrijven als x (ν) = P 1 Qx (ν 1) + P 1 b = Gx (ν 1) + P 1 b. We noemen G = P 1 Q de iteratiematrix. Definiëren we de iteratiefout als e (ν) = x (ν) x met x de exacte oplossing, dan geldt ook e (ν) = G (ν 1) e (ν 1). De asymptotische convergentie wordt bepaald door de spectraalradius ρ(g). Dit wil zeggen e (ν) lim ν e (ν 1) = ρ(g). 4

5 De spectraalradius van een matrix is gedefinieerd als haar grootste eigenwaarde in absolute waarde. Hoe kleiner ρ hoe sneller de convergentie. Als ρ > 1 zal divergentie optreden. Bemerk dat ook voor de residu s r (ν) = b Ax (ν) geldt dat Benaderend kan je stellen dat lim ν r (ν) r (ν 1) = ρ(g). r (ν) r (0) ρ ν. (8) Opgave 11 Geef een formule voor de eigenwaarden van de (symmetrische) Jacobi iteratiematrix G jac = P 1 jac Q jac = I D 1 A (1D en 2D). Opgave 12 Geef een uitdrukking voor de spectraalradius van de Jacobi iteratiematrix G jac (1D en 2D). Neem δ = 0, x = y en veronderstel dat t groot is. Opgave 13 De eigenwaarden van de Gauss-Seidel iteratiematrix G gs = Pgs 1 Q gs zijn niet meer eenvoudig te bepalen. Leid, aan de hand van de vorige opgave, een uitdrukking af voor de spectraalradius van G gs (1D en 2D) als je weet dat ρ(g gs ) = ρ(g jac ) 2. Een andere veelgebruikte iteratieve methode is de toegevoegde gradiëntenmethode. De convergentiesnelheid van deze methode kan geschat worden aan de hand van de uitdrukking ( ) ν κ 1 r (ν) 2 r (0), (9) κ + 1 waarbij κ het conditiegetal is van de matrix A. Opgave 14 Gebruik opgaven 12 en 13 en de formules (8) en (9) om uitdrukkingen van de vorm m = σn τ af te leiden voor de Jacobi, Gauss-Seidel en toegevoegde gradiënten methodes. De dimensie van het probleem wordt bepaald door N, m is het aantal iteraties dat nodig is om een zekere tolerantie ε te bereiken. Gebruik als stopcriterium r k ε r 0. Neem n x = n y = N en α = β. Veronderstel ook dat N groot is (en dus x en y klein) en dat t groot is. Maak gebruik van de reeksontwikkelingen (x 0) cos(x) = 1 x2 2 + x4 +, 4! x2 log(1 + x) = x 2 + x3 3 +, sin(x) = x x3 3! + x5 5! +, x 1 + x = x2 8 + en verwaarloos hogere orde termen. 5

6 5 Matlab-programma s Op vind je de Matlab-programma s die je nodig hebt voor de rest van het practicum. Plaats de bestanden in een directory en gebruik in Matlab het commando cd om naar deze directory te gaan. Typ help pract voor meer informatie. Je kan experimenten uitvoeren door commando s in te geven aan de Matlab-prompt, maar het is aangewezen zelf m-files (scripts en functies) te schrijven. Op die manier kan je makkelijk wijzigingen aanbrengen en vermijd je het herhaald intypen van gelijkaardige bevelen. Met het commando help kan je wat meer te weten komen over een bepaald programma. Je mag gerust de code van de programma s bekijken. Voor korte programma s kan je dat bijvoorbeeld doen met type jacsolver. Je kan figuren afdrukken met het commando print of door in het menu File van een venster met een grafiek de optie Print te selecteren. Met de optie Export kan je een figuur wegschrijven naar een bestand. Nuttige commando s: help, lookfor, figure, subplot, plot, semilogy, semilogx, loglog, xlabel, ylabel, title, legend, print, fprintf, save, load, enz. Voor nog meer nuttige commando s zie ook oefenzitting 1. De tolerantie voor de iteratieve methodes is in itsolve.m ingesteld op (Je mag hier natuurlijk mee experimenteren.) 6 Convergentie-experimenten Opgave 15 Maak voor het eendimensionale en het tweedimensionale geval grafieken van de (relatieve) norm van het residu in functie van het aantal iteraties voor de Jacobi, Gauss-Seidel en toegevoegde gradiënten methodes. Gebruik probleem1 en probleem2 (α = β = 0.5, δ = 0, n x = n y = N = 40 en t = ). Komt het gedrag overeen met de theorie? Is de convergentie lineair? Opgave 16 Vermits ρ gs = ρ 2 jac zal de Gauss-Seidel methode sneller zijn dan de Jacobi methode. Kan je hiervoor een (intuïtieve) verklaring geven? Opgave 17 Maak voor het eendimensionale en het tweedimensionale geval een figuur met daarop het aantal iteraties in functie van de dimensie N van het probleem voor de Jacobi, Gauss-Seidel en toegevoegde gradiënten methodes. Gebruik probleem1 en probleem2 (α = β = 0.5, δ = 0, t = en n x = n y = N). Komt het gedrag overeen met de theorie? Schat de parameters σ en τ uit opgave 14 en toon ook de overeenkomstige schattingen voor het aantal iteraties op je figuren. Interpreteer de resultaten. 7 Preconditionering Vaak is het nodig om preconditionering te gebruiken om een aanvaardbare convergentie te bekomen. Dat wil zeggen dat we een iteratieve methode toepassen op het 6

7 stelsel M 1 Ax = M 1 b. Als de matrix M wordt gekozen zodat stelsels met deze matrix eenvoudig opgelost kunnen worden, dan kan dit op een efficiënte manier geïntegreerd worden in bijvoorbeeld de toegevoegde gradiëntenmethode. De matrix M kan verder zo gekozen worden dat het spectrum van M 1 A een gunstigere ligging heeft voor de gebruikte iteratieve methode. Voor de problemen die we in dit practicum bekijken kunnen we bijvoorbeeld diagonaalpreconditionering M diag = D, symmetrische Gauss-Seidel preconditionering M sgs = (L + D)D 1 (D + L T ) of onvolledige Cholesky preconditionering gebruiken. Opgave 18 Vergelijk de convergentie van de toegevoegde gradiëntenmethode zonder preconditonering, met diagonale preconditioner, met symmetrische Gauss-Seidel preconditioner en met onvolledige Cholesky preconditioner. Opgave 19 Verduidelijk het gedrag dat je vaststelde in de voorgaande opgave aan de hand van figuren van het spectrum van de matrix A en de gepreconditioneerde matrix M 1 A. Opgave 20 Wat verwacht je dat er zal gebeuren als je niet de symmetrische, maar de gewone Gauss-Seidel preconditioner gebruikt (M gs = L + D)? 8 Toepassingen Opgave 21 Staaf. Gebruik vergelijking (1) als model voor de evolutie van de temperatuur in een dunne staaf die, op de uiteinden na, perfect geïsoleerd is. De coëfficiënten van de vergelijking zijn α = en δ = 0. De initiële temperatuur van de staaf is (1 + sin(3πx 2 )) 100 C (x [0, 1]). De uiteinden van de staaf worden op 100 C gehouden. Gebruik voor de discretisatie t = en n x = 60. Maak een figuur met daarop het temperatuurverloop in de staaf voor t = 0, 1,..., 10. Maak ook een figuur met de temperatuur van de staaf in het punt x = 0.4 in functie van de tijd. Bekijk zeker de functies matrix en newplotlist en co. eens. Opgave 22 Populatiedynamica. Gebruik vergelijking (2) als model voor de evolutie van het aantal micro-organismen in een vierkante omgeving met zijden van lengte 1. Veronderstel dat de randen van de omgeving dodelijk zijn voor de microorganismen en het aantal daar dus 0 is. Een constante toevoer van organismen wordt gemodelleerd door de functie f(x, y, t) = exp( (x 0.2)2 +(y 0.4) ) voor 0 x, y 1. 2 Sterfte wordt gemodelleerd door δ = 1. De verspreiding van organismen wordt gemodelleerd door α = β = Gebruik voor de discretisatie t = en n x = n y = 50. Maak figuren die het aantal organismen tonen voor t = 0.5, 1, 1.5, 2 als er initieel geen organismen aanwezig zijn. Visualiseer de evolutie in de punten (0.5, 0.5) en (0.2, 0.4) in functie van de tijd (t [0, 2]). Je kan onder andere gebruik maken van de functies matrix, rooster, reshape, surf, axis. 7

8 Opmerking: Met Matlab kan je heel gemakkelijk animaties maken. Je kan eens kijken naar de commando s getframe, movie en avifile. Dit hoort niet bij het practicum! 9 Opmerkingen Controleer de tussenresultaten van je afleidingen. Lees grondig de documentatie bij de Matlab-programma s (gebruik help). Het is zeker geen slecht idee om de formules die je afleidt waar mogelijk te controleren met Matlab. Gebruik figuren en tabellen om je bevindingen te verduidelijken. Gebruik logaritmische grafieken waar dat gepast is. Kies de schaal van je figuren oordeelkundig, vooral als twee verschillende figuren vergeleken moeten worden. Het verslag mag geschreven zijn, de figuren moet je echter wel met de computer maken. Wees beknopt maar duidelijk. Je bewijst niet dat je het snapt door de cursus over te pennen. Je mag maar moet niet per twee werken. Gelieve het verslag in te dienen op het secretariaat van het departement computerwetenschappen (A01.17) ten laatste op maandag 20 december 2004 om twee uur. Stuur mij ook één bestand (tar of zip of iets dergelijks) met je matlab-programma s. Jan Van lent jan.vanlent@cs.kuleuven.ac.be (016) Celestijnenlaan 200A