Numerieke methoden voor stelsels gewone differentiaalvergelijkingen. Prof. Dr. Marnix Van Daele

Transcriptie

1 Numerieke methoden voor stelsels gewone differentiaalvergelijkingen Prof. Dr. Marnix Van Daele

2 Deel I Beginwaardeproblemen of IVPs 1

3 Hoofdstuk 2 Introductie tot numerieke methoden voor IVPs 2.1 Nomenclatuur en voorbeelden We zoeken naar numerieke methoden voor oplossen van het standaard IVP y = fx, y), ya) = η, 2.1) waarbij y = [ 1 y, 2 y,..., m y] T, f = [ 1 f, 2 f,..., m f] T en η = [ 1 η, 2 η,..., m η] T m-dimensionale vectoren zijn, en x en a scalairen. Een oplossing wordt gezocht in het interval [a, b] van x, waarbij a en b eindig zijn. Er wordt tevens verondersteld dat de voorwaarden aangegeven in Stelling gelden, zodat er steeds een unieke oplossing yx) van 2.1) bestaat. Alle numerieke methoden die in deze nota s aan de orde zullen komen, steunen op het principe van discretizatie: het continue interval [a, b] van x wordt vervangen door de discrete puntenverzameling {x n x n = a + n h; n = 0, 1, 2,...,N = b a)/h}. De parameter h wordt de staplengte genoemd. Voorlopig zullen we h als een constante beschouwen, maar de meeste moderne algoritmen voor ODEs halen hun kracht en nauwkeurigheid uit de aanpasbaarheid van de staplengte tijdens de berekeningen. Verder laten we y n een benadering voorstellen van de oplossing yx n ) van 2.1) in x n : y n yx n ). Ons doel is dan een rij van waarden {y n } te bepalen die de oplossing van 2.1) in de discrete puntenverzameling {x n } benadert; zo n rij wordt een numerieke oplossing voor het probleem 2.1) genoemd. 16

4 Een numerieke methode is een differentievergelijking, waarin een aantal opeenvolgende benaderingen y n+j, j = 0, 1,..., k voorkomen en waarmee het mogelijk wordt achtereenvolgens een rij {y n n = 0, 1, 2,..., N} te bepalen. Natuurlijk zal in die differentievergelijking de functie f ook voorkomen. Het gehele getal k wordt het stapgetal step number) genoemd; als k = 1 wordt de methode een één-stapsmethode genoemd, terwijl voor k > 1 de methode een meerstaps- of k-stapsmethode wordt genoemd. Een algoritme of pakket is een computercode die een methode implementeert. Behalve het berekenen van de rij {y n } kan het ook andere taken vervullen, zoals het schatten van de fout van de benadering 2.1), het opvolgen en aanpassen van de waarde van de staplengte h en het beslissen welke klasse van methoden te gebruiken in een bepaalde fase van de oplossing. Opmerking Een goede keuze van de stapgrootte h is van groot belang bij numeriek rekenwerk. Een te kleine waarde van h betekent dat we overbodig rekenwerk uitvoeren dat kan leiden tot afrondingsfouten omdat de arithmetiek niet exact is). Een te grote waarde voor h betekent dat we meestal niet de vereiste nauwkeurigheid bereiken. Een typisch gedrag van de gemaakte fout in functie van h wordt gegeven in Figuur 2.1. fout h Figuur 2.1: Kwalitatief gedrag van de absolute fout in een vast punt als functie van h. Numerieke methoden kunnen vele vormen aannemen : a) y n+2 + y n+1 2 y n = h 4 [fx n+2, y n+2 ) + 8fx n+1, y n+1 ) + 3fx n, y n )] b) y n+2 y n+1 = h 3 [3fx n+1, y n+1 ) 2 fx n, y n )] c) y n y n y n y n = h 8 [19fx n+2, y n+2 ) + 5fx n, y n )] d) y n+2 y n = h[fx n+2, y n+2) + fx n, y n )] waarbij y n+2 3 y n+1 + 2y n = h 2 [fx n+1, y n+1 ) 3 fx n, y n )] 17

5 e) y n+1 y n = h 4 k 1 + 3k 3 ) met k 1 = fx n, y n ) k 2 = fx n h, y n hk 1) k 3 = fx n h, y n hk 2) f) y n+1 y n = h 2 k 1 + k 2 ) waarbij k 1 = fx n, y n ) k 2 = fx n + h, y n hk hk 2) De voorbeelden e) een f) zijn duidelijk één-stapsmethoden : vertrekkend van y 0 = η kan de rij {y n } sequentieel berekend worden door n = 0, 1, 2,... in te vullen in de differentievergelijking. De voorbeelden a), b) en d) zijn twee-stapsmethoden, en het zal noodzakelijk zijn te voorzien in een bijkomende startwaarde y 1, alvorens de rij {y n } kan berekend worden. In het geval van voorbeeld c), die een drie-stapsmethode is, zal het noodzakelijk zijn twee bijkomende startwaarden y 1 en y 2 te voorzien. Het vinden van bijkomende startwaarden vertegenwoordigt geen onoverkomenlijke moeilijkheid. Men kan gebruik maken van een afzonderlijke één-stapsmethode om die waarden te vinden, maar in principe zijn alle moderne algoritmen gebaseerd op meerstapsmethoden selfstarting. Als bij gegeven y n+j, j = 0, 1,..., k 1, y n+k rechtstreeks uit de differentievergelijking volgt, spreken we van een expliciete methode; dit is duidelijk het geval voor de voorbeelden b), c), d) en e). Als de waarde y n+k niet kan berekend worden zonder het oplossen van een impliciet stelsel van vergelijkingen, zoals dit het geval is voor de voorbeelden a) en f), dan wordt de methode impliciet genoemd. Vermits de functie f in het algemeen niet-lineair is, vereisen impliciete methoden het oplossen van een niet-lineair stelsel van vergelijkingen zie Appendix A) bij elke berekeningsstap; impliciete methoden zijn dan ook veel tijdrovender dan expliciete. Voorbeelden a), b) en c) zijn lineaire meerstapsmethoden LMMn) : Definitie Een lineaire k-stapsmethode voor y = fx, y) is van de vorm α j y n+j = h β j fx n+j, y n+j ), waarbij α k = 1 en α 0 + β

6 Voorbeeld d) is een predictor-corrector methode, waarin een expliciete LMM de predictor) gecombineerd wordt met een impliciete de corrector). Merk wel op dat de resulterende methode expliciet is. Voorbeelden e) en f) behoren tot de klasse van de Runge-Kutta-methoden RKMn) : Definitie Een s-traps Runge-Kutta-methode voor y = fx, y) is van de vorm s y n+1 = y n + h b i k i, i=1 s k i = fx n + c i h, y n + h a ij k j ), i = 1, 2,..., s. j=1 Zowel meerstapsmethoden als Runge-Kutta-methoden behoren tot de meer algemene klasse van methoden die kunnen geschreven worden als α j y n+j = hφ f y n+k, y n+k 1,..., y n, x n ; h), 2.2) waarbij de index f in het rechterlid aangeeft dat de afhankelijkheid van φ t.o.v. y n+k, y n+k 1,..., y n, x n gebeurt langs de functie fx, y). Aan het linkerlid van 2.2) associëren we de zogenaamde eerste karakteristieke veelterm ρξ). Definitie De eerste karakteristieke veelterm ρξ) van 2.2) is ρξ) = α j ξ j. We leggen twee voorwaarden op aan 2.2), nl. en φ f 0 y n+k, y n+k 1,..., y n, x n ; h) 0, 2.3) φ f y n+k, y n+k 1,..., y n, x n ; h) φ f yn+k, yn+k 1,..., yn, x n ; h) M y n+j yn+j 2.4) waarbij M een constante is. Deze voorwaarden zijn niet echt beperkend; voor alle methoden van de vorm 2.2) die in deze nota s worden beschouwd is de eerste voorwaarde vervuld. De tweede is een gevolg van het feit dat het IVP 2.1) verondersteld is aan de Lipschitzvoorwaarde zie Stelling 1.2.2) te voldoen. 19

7 Voorbeeld De differentievergelijking uit voorbeeld d) is te schrijven als y n+2 y n = hφ f y n+1, y n, x n ; h), met φ f = f x n+2, 3 y n+1 2 y n + h 2 fx n+1, y n+1 ) 3 ) 2 hfx n, y n ) + fx n, y n ). Hieruit volgt onmiddellijk dat de voorwaarde 2.3) vervuld is. Door opeenvolgend de Lipschitz-voorwaarde fx, y) fx, y ) L y y toe te passen kan, men gemakkelijk aantonen dat φ f y n+1, y n, x n ; h) φ f yn+1, yn, x n ; h) 3 + h ) 2 L L y n+1 yn h ) 2 L L y n yn, waaruit volgt dat 2.4) voldaan is wanneer we M = h ) 2 L L kiezen. Stel dat een k-stapsmethode toegepast wordt met stap h in de equidistante punten x n, y n ),..., x n+k 1, y n+k 1 ) en aanleiding geeft tot de waarde y [A] n+k in x n+k. Vervolgens passen we deze methode tot met stap h in de punten x n+k, y [A] n+k ), x n+k 1, y n+k 1 ),..., x n+1, y n+1 ) en we vinden y n [B] in x n. Over het algemeen is y n [B] y n. We moeten dus over het algemeen een andere methode toepassen met stap h om terug in het oorspronkelijke punt x n, y n ) te komen. Deze andere methode wordt de toegevoegde methode genoemd. Is de methode toegevoegd aan zichzelf m.a.w. geldt toch dat y n = y n [B] ), dan wordt de methode symmetrisch genoemd. Voorbeeld We bekijken de 1-staps Euler-methode y n+1 = y n + hf n. Hierin is f n = fx n, y n ) en y n+k is de benadering voor y in x n + k h. Passen we de Euler methode toe met stap h vanaf x n+1, dan ontstaat de methode y n+1) 1 = y n+1 hf n+1, of door herschikking van de termen : y n+1 = y n + hf n+1. De Euler-methode is derhalve niet symmetrisch. 20

8 2.2 Minimale voorwaarden voor numerieke methoden voor y = fx, y) Nulstabiliteit Stel dat een methode toegepast wordt op het probleem y = 0, y0) = y 0, 2.5) waarvan de exacte oplossing yx) = y 0 constant en bijgevolg begrensd is. Bij een vastestap-implementatie resulteert dit in de differentievergelijking α j y n+j = 0. Het begrensd zijn van de numerieke oplossing hangt af van de nulpunten van de karakteristieke veelterm ρξ) : ligt geen enkele wortel buiten de eenheidscirkel en zijn de wortels met modulus 1 enkelvoudig, dan zal y n begrensd blijven. Definitie De methode wordt nulstabiel zero-stable) genoemd indien geen enkele wortel van de eerste karakteristieke veelterm buiten de eenheidscirkel ligt en indien de wortels met modulus 1 enkelvoudig zijn. Deze voorwaarde wordt ook wel de root condition genoemd Consistentie Het is duidelijk dat nulstabiliteit een eerste minimale stabiliteitsvoorwaarde is die moet opgelegd worden aan alle methoden voor het oplossen van ODEs. Het lijkt daarenboven ook heel redelijk te eisen dat de oplossing van probleem 2.5) ook een oplossing is van de vergelijking 2.2). Voor de methoden die wij beschouwen betekent dit dat α j = 0, 2.6) of m.a.w. ρ1) = 0. Deze voorwaarde is voor RKMn steeds voldaan. Deze voorwaarde legt echter geen enkele beperking op aan het rechterlid en daarom lijkt een bijkomende voorwaarde wenselijk. Daarom eisen we dat ook de oplossing van de vergelijking y = c, y0) = y 0, 2.7) 21

9 exact kan worden bekomen door de methode. Voor de LMMn betekent deze voorwaarde j α j = β j. 2.8) Voor RKMn komt deze voorwaarde overeen met s b i = 1. i= Convergentie Hetgeen we uiteindelijk van een numerieke methode verlangen is dat ze convergent is. Indien de stap h 0, dan wordt de discrete puntenverzameling {x n x n = a + n h, n = 0, 1,..., N = b a)/h} het continue interval [a, b]. Een voor de hand liggende eis die aan de methode opgelegd kan worden, is dat in die limiet de numerieke oplossing {y n n = 0, 1,..., N} de exacte oplossing yx) wordt x [a, b] en dit voor alle beginwaarden die in de limiet h 0 naderen tot de exacte beginwaarden. Deze conditie drukt uit dat men convergentie eist. Definitie De methode α j y n+j = hφ f y n+k, y n+k 1,..., y n, x n ; h) 2.9) wordt convergent genoemd als we vinden dat voor elk IVP dat voldoet aan de voorwaarden van Stelling lim h 0 x = a + n h y n = yx) voor alle x [a, b] en voor alle oplossingen {y n } van de differentievergelijking 2.9) die voldoen aan de beginvoorwaarden y i = η i h) met lim h 0 η i h) = η, i = 0, 1,..., k 1. Een methode die niet convergent is, is divergent. Het begrip convergentie wordt voorgesteld in Figuur 2.2, waar de numerieke oplossing van een component t y wordt geschetst voor h = h i = h 0 /2 i, i = 0, 1, 2,.... Hierin betekent t y n h i ) de berekende waarde in ˆx = x 0 + n h i. De vraag stelt zich dus welke voorwaarden moeten voldaan zijn om convergentie te waarborgen. Het antwoord wordt gegeven in de volgende stelling : Stelling De nodige en voldoende voorwaarde voor convergentie van methode 2.2) is dat ze zowel consistent als nulstabiel is. 22

10 + t y 3h 2) + + t y.. 3h 1) +. t. y 3h 0) + + t y +. 6h 1) +. + t y 12h 2) t yx) 2.3 Numerieke experimenten a ˆx x Figuur 2.2: Convergentie van een methode. De experimenten beschreven in deze paragraaf passen enkele van de methoden a) f) uit paragraaf 2.1 toe op hetzelfde IVP met verschillende waarden voor h. Deze experimenten tonen de effecten aan van de begrippen die in de vorige paragrafen werden aangebracht. Tevens willen we met deze voorbeelden aantonen dat een convergente methode niet altijd aanvaardbare numerieke waarden genereert. Het IVP dat we zullen oplossen is y = fx, y), y0) = η, x [0, 1].. met y = u v ), fx, y) = v v v 1) u ), η = ). De unieke exacte oplossing is u v ) = exp 8 x)) 3 exp 8 x) ). 2.10) De norm van elke component van de oplossing is dus monotoon dalend. Wanneer bijkomende startwaarden nodig zijn, laten we ze samenvallen met de exacte oplossing. Vermits het niet praktisch is de numerieke oplossing te tonen bij elk discretizatiepunt, presenteren we enkel tabellen voor waarden x = 0, x = 0.2, x = 0.4, x = 0.6 enz. In die tabellen wordt de fout E n := yx n ) y n 2 voorgesteld. Voorbeeld y n+2 + y n+1 2 y n = h 4 fx n+2, y n+2 ) + 8fx n+1, y n+1 ) + 3fx n, y n )) Deze methode is consistent maar niet nulstabiel en daarom divergent. De numerieke resultaten vinden we in Tabel 2.1. De divergentie is opmerkelijk. Voor 23

11 x h = 0.1 h = 0.05 h = h = overflow Tabel 2.1: Een consistente, maar niet nulstabiele methode elke vaste h, neemt de fout snel toe als x toeneemt. Voor x = 0.2 daalt de fout initieel als h afneemt, maar nadien neemt ze weer snel toe. Voor alle andere vaste waarden van x neemt de fout toe als h afneemt. Voorbeeld y n+2 y n+1 = h 3 3fx n+1, y n+1 ) 2 fx n, y n )) Deze methode is nulstabiel, maar inconsistent en daardoor divergent. De numerieke resultaten zijn weergegeven in Tabel 2.2. De divergentie tengevolge van x h = 0.1 h = 0.01 h = h = Tabel 2.2: Een nulstabiele maar inconsistente methode. nulstabiliteit, zoals in het vorige voorbeeld, leidt tot een explosie van de fout. Hier ontstaat de divergentie tengevolge van inconsistentie en dit leidt niet tot zulk een explosie. De fout blijft echter altijd even groot zelfs als h kleiner wordt. De rij {y n } convergeert als h 0, maar niet naar de oplossing 2.10). Dit is exact wat we konden verwachten, vermits de methode voldoet aan de eerste van de consistentievoorwaarden 2.6) maar niet aan de tweede 2.8). Voorbeeld y n y n y n y n = h 8 19fx n+2, y n+2 ) + 5fx n, y n )). Deze methode is consistent en nulstabiel en daarom convergent. De numerieke resultaten zijn weergegeven in Tabel 2.3. De laatste twee kolommen tonen duidelijk x h = 0.1 h = 0.05 h = h = Tabel 2.3: Een convergente methode. 24

12 aan dat de methode convergeert. Nochtans schijnt er een waarde h van h te bestaan tussen en 0.05, zodat voor een waarde h > h de fout toeneemt als x toeneemt, terwijl voor h < h de fout afneemt als x toeneemt. We zullen dit fenomeen verder in deze nota s in detail bespreken. Voor het ogenblik merken we op dat voor h > h de numerieke oplossing niet aanvaardbaar is. Convergente methoden leveren dus niet altijd aanvaardbare oplossingen! De staplengte h moet voldoende klein gekozen worden. Voorbeeld met y n+2 y n = h fx n+2, y n+2) + fx n, y n ) ) y n+2 3 y n+1 + 2y n = h 2 fx n+1, y n+1 ) 3 fx n, y n )). Deze methode is consistent en nulstabiel en daarom convergent. De numerieke resultaten vinden we in Tabel 2.4. De resultaten hier zijn wat onverwachts en schijx h = 0.1 h = 0.01 h = h = Tabel 2.4: Een convergente methode. nen eerder divergentie dan convergentie aan te tonen. Als we ze echter vergelijken met degene uit Tabel 2.1 zien we toch een opmerkelijk verschil. In Tabel 2.1 zien we voor afnemende h dat de waarde van x, waarvoor de numerieke oplossing niet meer dicht bij de exacte oplossing ligt, nadert naar het beginpunt x = 0. In Tabel 2.4 beweegt het van het beginpunt weg. Als we h zouden blijven verkleinen dan zou blijken dat de numerieke oplossing een redelijke benadering is van de exacte oplossing voor groter en groter intervallen van x, maar voor een voldoend grote x komt er telkens een afwijking : in de limiet h 0 zal het punt waarop de numerieke oplossing afwijkt van de exacte oplossing naderen naar oneindig. De oplossing is derhalve convergent. Voor de waarden in Tabel 2.1 nadert dit punt naar het initiale punt en daardoor is de methode divergent. Dit voorbeeld toont aan dat er convergente methoden bestaan die, onafhankelijk van de staplengte, numerieke oplossingen zullen produceren die opblazen wanneer voldoende grote integratie-intervallen worden in acht genomen. De bovenstaande voorbeelden zijn gekozen om aan te tonen dat er verschillende stabiliteitsfenomenen bestaan, die een verdere studie verlangen. In het bijzonder moet het duidelijk zijn dat nulstabiliteit niet de enige vorm van stabiliteit is die moet beschouwd worden. Deze feiten zullen verder in de nota s aan de orde komen. 25

13 2.4 Fouten en Orde Bij het opstellen van de consistentievoorwaarden hebben we voor de uitdrukking R n+k := α j yx n+j ) hφ f yx n+k ), yx n+k 1 ),..., yx n ), x n ; h), 2.11) die ook het residu wordt genoemd, geëist dat ze nul wordt als respectievelijk fx, y) = 0 en fx, y) = c, d.w.z. als yx) hetzij constant, hetzij lineair is. Niets sluit uit dat dit ook het geval is voor andere functies fx, y). Tevens laat deze uitdrukking toe om de lokale afknottingsfout LAF) te analyseren. Definitie Zij y n+k de oplossing die verkregen wordt door de methode 2.2) toe te passen met startwaarden y n+j = yx n + j h), j = 0, 1, 2,..., k 1, dan wordt yx n + k h) y n+k de lokale afknottingsfout genoemd. Residu en LAF zijn dus synoniemen voor expliciete methoden waarbij α k = 1. Voorbeeld We bepalen de LAF en het residu voor de expliciete Euler-methode en de impliciete achterwaartse Euler-methode bij toepassing op y = λ y, y0) = 1. Hiervoor geldt dat yx n ) = yn h) = expn ĥ) met ĥ = λ h. Voor de expliciete methode is y n+1 = y n + hf n = y n + ĥy n = 1 + ĥ)y n. De lokale afknottingsfout in x n+1 bedraagt dan LAF = yx n+1 ) y n+1 = expn + 1)ĥ) 1 + ĥ) expn ĥ) Het residu volgt uit = expn ĥ)expĥ) 1 ĥ). Residu = yx n+1 ) yx n ) hfx n, yx n )) zodat beide gelijk zijn. = expn + 1)ĥ) expn ĥ) ĥ expn ĥ) = expn ĥ)expĥ) 1 ĥ), We passen nu dezelfde redenering toe op de impliciete achterwaartse Euler-methode. We vinden dan y n+1 = y n + hf n+1 = y n + ĥy n+1, waaruit y n+1 = 1 1 ĥ y n. 26

14 De lokale afknottingsfout in x n+1 bedraagt nu LAF = yx n+1 ) y n+1 = expn + 1)ĥ) 1 expn ĥ) 1 ĥ = expn ĥ) expĥ) 1 ) 1 ĥ. Het residu volgt nu uit Residu = yx n+1 ) yx n ) hfx n+1, yx n+1 )) = expn + 1)ĥ) expn ĥ) ĥ expn + 1)ĥ) ) = expn ĥ) 1 ĥ) expĥ) 1. Hoewel residu en LAF niet meer aan elkaar gelijk zijn, zijn ze wel nog van dezelfde orde in h. Naast de LAF, die de fout beschrijft na 1 stap, wordt ook gebruik gemaakt van de globale afknottingsfout GAF), die de fout beschrijft na een willekeurig aantal stappen. Definitie Zij y n de oplossing die verkregen wordt in x n = x 0 + n h door de methode 2.2), dan wordt yx n ) y n de globale afknottingsfout in x n genoemd. Het is belangrijk op te merken dat de berekening van de LAF uitgaat van de exacte beginwaarden. Dit is echter een artificiële uitgangspositie, want reeds bij het nemen van de tweede stap kan een beroep gedaan worden op de in de eerste stap berekende waarde! Daarom wordt ook vaak gebruik gemaakt van de lokale fout LF), die als volgt wordt gedefinieerd : Definitie Zij ux) de oplossing van het IVP u = fx, u), ux n+k 1 ) = y n+k 1, dan wordt ux n+k ) y n+k de lokale fout genoemd in x = x n+k. In Figuur 2.3 wordt een voorbeeld gegeven voor k = 3. De -tekens corresponderen met exacte startwaarden, de -tekens met de eerder numeriek berekende waarden. Stel nu dat de LAF wordt ontwikkeld in een reeks in machten van de stap h. De leidende term in deze ontwikkeling wordt de principale lokale afknottingsfout PLAF) genoemd. Definitie Indien de PLAF zich gedraagt als Oh p+1 ), dan wordt de methode van de orde p genoemd. De bovenstaande definitie geeft meteen aan hoe een methode van de orde p kan worden opgesteld : het volstaat in de ontwikkeling van het residu alle coëfficiënten bij h q met q p gelijk aan nul te maken. In de volgende hoofdstukken zullen we zien dat dit een verschillende aanpak voor LMMn en RKMn vergt. Tot slot wordt een nog een uitermate belangrijk verband tussen de lokale afknottings-)fout en de globale fout gegeven in de volgende stelling : 27

15 t yx) LAF t ux) LF x n x n+1 x n+2 x n+3 x Figuur 2.3:.. Stelling Is een methode voor y = fx, y) van de orde p, dan is yx n ) y n = Oh p ). Voorbeeld We passen de Euler-methode toe op het IVP y = λ y, y0) = 1. Uit y n+1 = 1 + ĥ)y n volgt voor x n = n h dat y n = 1 + ĥ)n n n 1) = 1 + n ĥ + ĥ n n 1)n 2) 6 ĥ 3 + = 1 + λ x n + λ2 2 x n x n h) + λ3 6 x n x n h)x n 2 h) +, terwijl Derhalve is yx n ) = expn ĥ) = 1 + n ĥ + n2 2 ĥ2 + n3 6 ĥ3 + = 1 + λ x n + λ2 2 x2 n + λ3 6 x3 n +. yx n ) y n = λ2 2 x n h + λ3 6 3x2 n h 2 h 2 x n ) + = Oh). 28