1 Interpolatie en Approximatie

Transcriptie

1 1 INTERPOLATIE EN APPROXIMATIE 8 1 Interpolatie en Approximatie In dit hoofdstuk bespreken we methoden om een gegeven functie van een veranderlijke te benaderen met een (gemakkelijk berekenbare) functie uit een voorgeschreven klasse, zoals polynomen (veeltermen) of trigonometrische polynomen (sommen van machten van sinus en cosinus). Bij approximatie (benadering) wordt alleen de eis gesteld, dat het verschil met de gegeven functie klein is in een of andere zin. Bij interpolatie moet de benaderende functie gelijk zijn aan de gegeven functie in een zeker aantal (vooraf voorgeschreven) punten. 1.a Lagrange interpolatie Het Lagrange-interpolatiepolynoom π f van een continue functie f op n steunpunten { x 1,, x n } is het polynoom van graad n 1, dat gelijk is aan f in deze punten: Onder de aanname x i x j als i j is π f uniek en er geldt: π f (x i ) = f(x i ), i = 1 n. (1.1) π f (x) = f(x i ) L (n) i (x), L (n) i (x) := n j=1, j i x x j x i x j. (1.2) Opgave 1.1: Bewijs dit. Voor het Lagrange-interpolatiepolynoom geldt de volgende foutschatting: Stelling. Zij I IR een interval dat de steunpunten x 1,, x n bevat en zij f C n (I) (f is n keer continu differentieerbaar), dan geldt: f(x) = π f (x) + n (x x i ) f(n) (ξ x ) n!, (1.3) waar ξ x int(x, x 1,, x n ), het interval opgespannen door de punten x, x 1,, x n. Bewijs. Definieer de functie g door de vergelijking f(x) = π f (x) + g(x) n (x x i ) en beschouw de functie ϕ t (x) := f(x) π f (x) g(t) n (x x i ). Deze heeft (minstens) n+1 onderling verschillende nulpunten binnen het interval int(x, x 1,, x n ), als t x i, i. Volgens de stelling van Rolle heeft de afgeleide dus nog minstens n verschillende nulpunten. Als we doorgaan met differentiëren en de stelling van Rolle toepassen, vinden we dat de n-de afgeleide nog minstens een nulpunt ξ t binnen int(x, x 1,, x n ) heeft. Zo vinden we waaruit (1.3) volgt. 0 = dn dx n ϕ t x = ξ t = f (n) (ξ t ) n! g(t), N.B. De rest in (1.3) heet de restterm van Lagrange. In deze restterm worden geen eisen gesteld aan de positie van het punt x t.o.v. de steunpunten. Als x tussen de steunpunten ligt, hebben we interpolatie in de eigenlijke betekenis van het woord, en we spreken van extrapolatie als x buiten

2 1 INTERPOLATIE EN APPROXIMATIE 9 dit interval ligt. Aan het functie-onafhankelijke deel van de restterm, Π n (x x i), kunnen we zien dat voor extrapolatie een veel grotere afbreekfout kunnen verwachten dan voor interpolatie. Opgave 1.2: Een algemenere vorm van interpolatie is die, waarbij in de steunpunt x i niet alleen gelijkheid van de functiewaarde wordt geëist, maar ook gelijkheid van eerste n i 1 afgeleiden, d.w.z. π (j) f (x i) = f (j) (x i ), voor j = 0,, n i 1, en i = 1,, n. (1.4) De graad van het interpolatiepolynoom is dan N 1 met N := Σ n n i. Laat zien, dat analoog aan (1.3) geldt: f(x) = π f (x) + f(n) (ξ x ) n (x x i ) n i (1.5) N! voor zekere ξ x int(x, x 1,, x n ). N.B. Als n i = 2 i (in alle steunpunten stemmen dus de waarde van het interpolatiepolynoom en van zijn afgeleide overeen met die van de gegeven functie), dan spreken we van Hermite interpolatie. Formule (1.2) is niet erg geschikt om de waarde van het interpolatiepolynoom in een punt te berekenen, niet alleen vanwege de hoeveelheid rekenwerk, maar ook vanwege een mogelijke accumulatie van afrondfouten bij het optellen van de bijdragen van de verschillende steunpunten. Een betere manier is de Newtonse algoritme met gedeelde differenties. We definiëren recursief de m-de gedeelde differentie van f op de m + 1 punten {x i, x i+1,, x i+m } door f(x i, x i+1,, x i+m ) := f(x i, x i+1,, x i+m 1 ) f(x i+1, x i+2,, x i+m ) x i x i+m, (1.6) voor m = 1, 2,. Opgave 1.3: Bewijs met volledige inductie f(x i, x i+1,, x i+m ) = m+i j=i f(x j ) m+i l=i, l j (x j x l ) (1.7) en dat hieruit volgt, dat f(x i, x i+1,, x i+m ) een symmetrische functie is van haar argumenten, d.w.z. dat de functiewaarde invariant is onder verwisseling van argumenten. Met behulp van deze gedeelde differenties kunnen we het Lagrange-interpolatiepolynoom op de punten {x 1,, x n } schrijven als π f (x) = f(x 1 ) + (x x 1 )f(x 1, x 2 ) + (x x 1 )(x x 2 )f(x 1, x 2, x 3 )+ + + (x x 1 )(x x 2 ) (x x n 1 )f(x 1, x 2,, x n ) (1.8) en voor de restterm geldt dan f(x) π f (x) = f(x 1,, x n, x) n j=1 (x x j ). (1.9) Opgave 1.4: Bewijs de formules (1.8) en (1.9) met volledige inductie. Laat ook zien, dat de k-de gedeelde differentie evenredig is met de k-de afgeleide: f(x 0,, x k ) = fk (ξ) k!, ξ int(x 0,, x k ). (1.10)

3 1 INTERPOLATIE EN APPROXIMATIE 10 Uit formule (1.6) zien we dat de gedeelde differenties bij een gegeven verzameling steunpunten {x 1, x 2, } een driehoekig tableau vormen, waarvan we de elementen alsvolgt kunnen berekenen: for i := 1 to n do f (0) i := f(x i ) ; for j := 1 to n 1 do for i := n downto j + 1 do f (j) i Het tableau heeft dan de volgende vorm: := f(j 1) i f (j 1) i 1 ; x i x i j (1.11) x x 1 f (0) 1 f (1) 2 x 2 f (0) 2 f (2) 3 f (1) 3 f (3) 4 x 3 f (0) 3 f (2) 4 f (4) 5 f (1) 4 f (3) 5 x 4 f (0) 4 f (2) 5 f (4) 6 f (1) 5 f (3) 6 x 5 f (0) 5 Vervolgens kunnen we de waarde van π f in het gewenste punt x evalueren met een Horner-achtig schema: π f (x) := ( ( (x x n 1 ) f (n 1) n + f (n 2) n 1 ) (x x n 2) + ) (x x 1 ) + f (0) 1 (1.12a) of in pseudopascal: som := f (n 1) n ; for j := n 1 downto 1 do som := som (x x j ) + f (j 1) j ; (1.12b) Op deze manier behoeven we de gedeelde differenties voor de benadering maar een keer te berekenen en hebben we vervolgens voor iedere evaluatie van π f slechts n flops nodig. Opgave 1.5: Ga na, dat we bij de berekening van het differentietableau in de j-de slag f (j) i kunnen opbergen op dezelfde geheugenplaats als f (j 1) i, zonder daarmee waarden te verliezen, die we later (bij de evaluatie van π f ) nog nodig hebben. Bij exakt rekenen is de waarde van π f (x) onafhankelijk van de volgorde, waarin we de steunpunten {x i } ordenen, maar bij rekenen op een rekenmachine (met afrondende floating point operaties) is dit wel het geval. De totale afrondfout in het berekende resultaat van de som (1.8) zal i.h.a. kleiner zijn, naarmate de termen van de reeks sneller dalen (mits we ze van klein naar groot sommeren, zoals in algoritme (1.12b). Aan de posities van de steunpunten en aan de coëfficiënten, de gedeelde differenties, kunnen we natuurlijk niets veranderen, maar we kunnen wel de volgorde van de steunpunten zo kiezen, dat x 1 het dichtst bij x ligt, en meer algemeen, dat geldt x x 1 x x 2 x x 3

4 1 INTERPOLATIE EN APPROXIMATIE 11 1.b Alternatieven voor het representeren en uitrekenen van een interpolatiepolynoom Stel dat we een functie f interpoleren op de equidistante punten 0, ±1, ±2,, en dat we de waarde van die functie exact kennen in alle punten, behalve in 0, waar we een fout van één eenheid hebben, dan kunnen we de doorwerking van deze fout zien in de volgende differentietabel: x fout 1 ste dif 2 de dif 3 de dif 4 de dif 5 de dif 6 de dif 7 de dif 8 ste dif Om de gedeelde differenties te verkrijgen, moeten we de k-de differenties nog delen door k!. We zien in deze tabel, dat de fouten in de hogere differenties ten gevolge van deze ene fout in f(0) snel aangroeien. Om de resulterende fout te vinden in de k-de term van formule (1.8), moeten we de fout in de k-de differentie delen door k! en vermenigvuldigen met (x x 1 ) (x x 2 ) (x x k 1 ). Als x 1 < x < x 2 < < x n, dan zijn beide factoren ongeveer gelijk en geeft de k-de kolom de werkelijke fout in de k-de term weer; als x 4 < x 2 < x < x 1 < x 3 (interpolatie in het midden), dan is de werkelijke fout ongeveer 2 k kleiner. Maar ook dan blijft deze van orde 1 en kan de totale fout in π f toenemen met de orde van de interpolatie. Het heeft dan ook weinig zin om via deze methode een interpolatiepolynoom te bepalen van een orde hoger dan ongeveer 10 bij de gebruikelijke machineprecisie van (reals van 64 bit met een mantisselengte van 53 bits). Een alternatieve methode voor het bepalen van het interpolatiepolynoom zou het volgende kunnen zijn. We zoeken de coëfficiënten van π f (x) = Σj=0 n 1 a jx j bij gegeven functiewaarden π f (x i ) = f(x i ), i = 1,, n. De coëfficiënten {a j j = 0,, n 1} kunnen we dus eenvoudig bepalen door het oplossen van n lineaire vergelijkingen j=0 a j x j i = f(x i ), i = 1,, n, (1.13a) oftewel A a 0 a 1 a n 1 := 1 x 1 x1 n 1 1 x 2 x2 n x n xn n 1 a 0 a 1 a n 1 = f(x 1 ) f(x 2 ) f(x n ). (1.13b)

5 1 INTERPOLATIE EN APPROXIMATIE 12 De matrix A in dit stelsel vergelijkingen (A is een V andermondematrix ) is in het algemeen helaas zeer slecht geconditioneerd. Voorbeelden: 1. Met de steunpunten x i = i/10, i = 0,, 10 vinden we een matrix A met de conditiegetallen κ 2 (A) = en κ (A) = Met de steunpunten x i = cos( 2i+1 22 π), i = 0,, 10 (de nulpunten van het 10de Chebyshev polynoom) T 10 vinden we een matrix A met de conditiegetallen κ 2 (A) = en κ (A) = Het oplossen van het stelsel (1.13) is dus geen goede zaak. De reden is, dat de gekozen representatie π f (x) = j=0 a j x j (1.14) nogal slecht is om mee te rekenen als n niet heel klein is. Een betere representatie verkrijgen we door π f te schrijven als een som van orthogonale polynomen in plaats van machten van x. Zij bij gegeven steunpunten {x i i = 1,, n} de verzameling {V j (x) i = 0,, n 1} een stelsel veeltermen met graad(v j ) = j en zo, dat V j (x i ) V l (x i ) = { 0 if j l, 1 if j = l, (j, l = 0,, n 1), (1.15) d.w.z. de veeltermen zijn diskreet orthogonaal op de gegeven steunpunten. Als we nu het gezochte interpolatiepolynoom representeren als een lineaire combinatie van deze orthogonale veeltermen, π f (x) = j=0 b j V j (x), dan vinden we voor de coëfficiënten het stelsel vergelijkingen b 0 V 0 (x 1 ) V 1 (x 1 ) V n 1 (x 1 ) b 1 V 0 (x 2 ) V 1 (x 2 ) V n 1 (x 2 ) B := b n 1 V 0 (x n ) V 1 (x n ) V n 1 (x n ) b 0 b 1 b n 1 = f(x 1 ) f(x 2 ) f(x n ) (1.16a). (1.16b) De matrix B in dit stelsel heeft orthonormale kolommen en is dus orthogonaal (B T B = BB T = I) en is dus zeer goed geconditioneerd en zeer eenvoudig oplosbaar, b j = V j (x i ) f(x i ), i = 0,, n 1. Het grote probleem is echter om zo n stelsel te vinden bij gegeven interpolatiepunten {x 1,, x n }. Een mogelijkheid is om de veeltermen {1, x, x 2, } successievelijk te orthogonaliseren met behulp van de methode van Gram-Schmidt. Dit is echter equivalent met het oplossen van het stelsel (1.13b) met MGS ( modified Gram-Schmidt, zie Golub & Van Loan) en dus met behoud van alle ellende wegens de slechte conditie van dit stelsel. Voor een willekeurig stel interpolatiepunten blijkt er niets beters te zijn! Als de interpolatiepunten gegeven zijn als de nulpunten van een mooi polynoom, zoals het n-de Chebyshev polynoom T n, dan zijn er andere middelen om zo n diskreet-orthogonale rij veeltermen te vinden.

6 1 INTERPOLATIE EN APPROXIMATIE 13 Lemma: k=0 cos( 2k + 1 2n mπ) = 0, als m mod 2n 0, n, als m mod 2n = 0 en m/2n even n, als m mod 2n = 0 en m/2n oneven. (1.17) Bewijs. k=0 cos( 2k + 1 2n mπ) = 1 2 = 1 2 k=0 2 k=0 2k+1 imπ (e 2n + e imπ 2k+1 2n ) e imπ 2n e imπk n ; als m mod 2n 0, dan kunnen we de meetkundige reeks in de laatste som sommeren en is het resultaat nul, en anders zijn alle termen +1 of 1. Stelling. Op de nulpunten {τ 1,, τ n } van het n-de Chebyshev polynoom T n geldt: 2 n T i (τ k ) T j (τ k ) = { 0, als i j, 1, als i = j, (0 < i, j < n) (1.18) Bewijs. Met de gelijkheid τ k = cos 2k+1 2n π en met de transformatie T j(cos t) = cos jt kunnen we formule (1.17) toepassen. Gevolg: Als π f het Lagrange-interpolatiepolynoom van f is, op de nulpunten van T n (π f heeft dus graad n 1), dan geldt: π f = j=0 c j T j met π f (τ k ) = j=0 c j T j (τ k ) = f(τ k ) en volgens(1.8) moet dan gelden c j = 2 n f(τ k )T j (τ k ). Gebruik makend van de recurrente betrekking voor de Chebyshev polynomen, T k+1 (x) = 2xT k (x) T k 1 (x) voor k 1, kunnen we de coëfficiënten {c j } uitrekenen in n 2 + n flops en n evaluaties van de cosinus. Voor grote n kan dit echter veel efficiënter via een FFT (fast Fourier transform), immers: c j = 2 n = 1 n = 1 n = 1 n f k T j (τ k ) = 2 f k cos( 2k 1 jπ) n 2n f k exp( 2k 1 jπi) + 1 f k exp( 2k 1 jπi) 2n n 2n f k exp( 2k 1 jπi) + 1 4n 2k + 1 f k exp( jπi) 2n n 2n f k exp( 2k 1 2n jπi) + 1 n = 1 n exp( j 2n 1 n πi) f k+1 exp( jk n πi) k=0 2 l=n+1 f 2n l+1 exp( 2l 1 2n als f 2n k := f k voor 0 k < n. Behoudens een constante faktor is dit precies een (complexe) diskrete Fouriertransformatie. jπi)

7 1 INTERPOLATIE EN APPROXIMATIE 14 Opgave 1.6: De Chebyshev polynomen van de tweede soort U n worden gedefinieerd door U n (cos t) := sin(n + 1)t sint, n = 0, 1,. a. Laat zien: U 0 (x) = 1, U 1 (x) = 2x en U n+1 (x) = 2U n (x) U n 1 (x) (dezelfde drietermsrecursierelatie als T n maar met een ander begin). b. Bewijs, dat U k en U l orthogonaal zijn t.o.v. het diskrete inprodukt Σ n w i U k (ξ i ) U l (ξ i ) op de nulpunten ξ 1,, ξ n van U n met gewichten w k := sin 2 kπ n+1. c. Bepaal de relatie tussen de ontwikkeling π f = Σ n d j U j van het Lagrange-interpolatiepolynoom van f op de nulpunten van U n en de complexe Fouriertransformatie. 1.c Polynoomapproximatie Als we een functie willen benaderen (d.m.v. een polynoom), moeten we natuurlijk eerst afspreken op wat voor manier we de afwijking zullen meten. Veelgebruikte normen zijn de supnorm, die de maximale afwijking over een interval [a, b] meet, f := max a x b f(x), (1.21) en de gewogen kwadraatnorm (of L 2 -norm), die het kwadraat van de afwijking maal een gewichtsfunctie w over het interval integreert, f 2,w := { b a f(t) 2 w(t) dt } 1 2. (1.22) Bij praktisch rekenen kennen we evenwel de te benaderen functie slechts in een eindig aantal punten (b.v. metingen) en zullen we afwijkingen moeten meten in een diskrete (semi-)norm, zoals het maximum of een gewogen som (zie b.v. 1.15) over de gegeven punten. Volgens de stelling van Weierstrass kunnen we iedere continue functie op een kompakt interval willekeurig goed uniform benaderen met een polynoom van voldoend hoge graad. Deze stelling is constructief, d.w.z. we kunnen voor iedere functie expliciet een convergente rij polynomen aangeven. De rij Bernstein-polynomen bijvoorbeeld, B n (x) := ( n k ) f(k n ) xk (1 x) n k, (1.20) k=0 convergeert uniform naar f op het gesloten interval [0,1], als f continu is op dit interval. Voor numerieke doeleinden is een dergelijke polynoombenadering echter totaal onbruikbaar. Als alternatief voor de constructie van een goede polynomiale benadering kunnen we denken aan interpolatie. In het algemeen is dit een goede methode, maar we moeten voorzichtig zijn: niet ieder schema met interpolatie van steeds hogere orde convergeert 1! Een bekend voorbeeld is het volgende: Als we de functie 1/(1 x 2 ) op het interval [ 5, 5] interpoleren in n equidistante punten x 1,, x n met x 1 = 5 en x n = 5, dan divergeert de rij interpolanten voor x 3.64 voor n, ondanks dat de gegeven functie oneindig vaak differentieerbaar is. Voor stellingen over het bestaan van beste polynoombenaderingen verwijzen we naar de cursus aanvullingen van de wiskunde. Behalve met Fourier-Chebyshev approximaties (en dit voornamelijk wegens het verband met Fourier reeksen) wordt er in de praktijk weinig met polynoomapproximaties van hogere orde (hoger dan 5 à 6) gewerkt. Een van de redenen is, dat interpolatie van hoge orde nogal slecht geconditioneerd is (zie 1b) en niet noodzakelijk convergent. Een andere reden is, dat een convergerende rij interpolanten van steeds hogere graad n meestal vrij traag convergeert met een macht van 1/n als convergentieorde. Een verdeling van het interval in kleine stukjes en benadering met een polynoom van lage graad op ieder stukje apart levert meestal een veel betere banadering op met minder rekenwerk. 1 Sterker: bij ieder interpolatieschema is er een C -functie waarvoor het schema divergeert!

8 1 INTERPOLATIE EN APPROXIMATIE 15 1.d Approximaties op deelintervallen Laat f een voldoend gladde functie zijn op het interval [a, b]. We gaan deze nu benaderen door het interval op te splitsen in n deelintervallen, a =: t 0 < t 1 < < t n 1 < t n := b, h := max 1<i<n t i t i 1, (1.23) met maximale maaswijdte h. We stellen on nu de vraag, hoe goed we f kunnen benaderen met stuksgewijze polynomen van de graad kleiner dan of gelijk aan k. D.w.z. op ieder deelinterval [t i 1, t i ] benaderen we f met een polynoom van graad k. Het bepalen van een beste benadering kan zeer moeilijk zijn, maar een benadering, verkregen door f op ieder deelinterval te interpoleren blijkt goed genoeg voor het afleiden van een goede foutschatting voor dit soort benaderingen (de afbreekfout van de beste benadering kan alleen maar kleiner zijn). Om zo n stuksgewijs polynomiale interpolant π te construeren kiezen we op het interval [0, 1] de referentiesteunpunten ξ 0, ξ 1,, ξ k. We definiëren de restriktie van π tot het deelinterval [t i 1, t i ] als het Lagrangeinterpolatiepolynoom op de steunpunten { t i 1 + ξ j (t i t i 1 ) j = 0,, k}. Volgens de restterm van Lagrange (1.3) geldt voor x [t i 1, t i ] de ongelijkheid f(x) π(x) = f(k+1) (ξ x ) (k + 1)! k j=0 (x t i 1 ξ j (t i t i 1 )) t i t i 1 k f(k+1) (ξ x ) (k + 1)!. (1.24) De schatting van het produkt door de k+1-ste macht is vrij grof, maar geeft wel goed de orde van de (lokale) afbreekfout aan, deze is namelijk evenredig met de k+1-ste macht van de deelintervallengte. Dus, als we deelintervallengte halveren (bij constante k), dan neemt de benaderingsfout af met een factor 2 k 1. We zien dat een dergelijke manier van benaderen met stuksgewijze polynomen van vaste graad veel veiliger is dan benaderen met één polynoom van steeds hogere graad en niet kritisch afhangt van afgeleiden van hoge orde van f en van de verdeling van de steunpunten over het interval. Bovendien is deze wijze van benaderen flexibel; als de k-de afgeleide op een (klein) deel van het interval groot is en elders klein, dan kunnen we de verdeling (1.23) fijnmazig kiezen op plaatsen waar deze afgeleide groot is en veel grover elders, zodat de benaderingsfout in ieder punt ongeveer even groot is. Laat het rooster zijn op [a, b], zoals gedefinieerd in (1.23). We definiëren de ruimte van stuksgewijze polynomen M k,p ( ) voor k 0 en 1 p k 1 door M k,p ( ) := { f C p ([a, b]) f [ti 1, t i ] is een polynoom van graad k i }. (1.25) Deze verzameling bestaat dus uit stuksgewijze polynomen van graad k op de deelintervallen, die tesamen met hun eerste p afgeleiden continu zijn op de deelintervalgrenzen. (Voor p = 1 is er dus geen continuïteit op de punten van. Voor p = k 1 noemen we deze stuksgewijze polynomen splines van graad k). Een polynoom van graad k wordt bepaald door k +1 coëfficiënten, zodat de dimensie van de ruimte van stuksgewijze polynomen op de verdeling (1.23) gelijk is aan n(k + 1). De continuïteitseisen op de interne deelpunten geven (n 1)(p + 1) lineaire vergelijkingen voor deze coëfficiënten, zodat de dimensie van M k,p ( ) gelijk is aan n(k + 1) (n 1)(p + 1). Voor benaderingen in ruimten van stuksgewijze polynomen met p < k/2 kunnen we volgens de methode, die hierboven geschetst is, het volgende resultaat bewijzen: Stelling. Als f C k+1 ([a, b]), dan geldt voor de beste benadering π M k,p ( ) van f met p < k/2 de foutschatting: ( d dx )m (f π) C m h k m+1 f (k+1), 0 m k, (1.26)

9 1 INTERPOLATIE EN APPROXIMATIE 16 waar C m een constante is die alleen van m afhangt, maar niet van de functie of de gekozen verdeling. Bewijs. Voor m = 0 en p = 1 behoeven we in (1.24) slechts het maximum te nemen over alle deelintervallen. Als p 0 moeten we de interpolatiepunten met enige zorg kiezen. Als p = 0, dan kiezen we ξ 0 = 0 en ξ k = 0, zodat t i zowel voor het polynoom op [t i 1, t i ] als dat op [t i, t i+1 ] een interpolatiepunt is. Op deze manier is de stuksgewijs polynomiale benadering automatisch continu in t i, i. Als p > 0, dan interpoleren we zo, dat op de uiteinden van ieder deelinterval de functiewaarde en de eerste p afgeleiden van het interpolerende polynoom met die van de functie overeenstemmen (zie 1.4-5). De graad van het interpolerende polynoom moet dan wel groter zijn dan 2p. Door het maximum van de restterm (1.5) te nemen over alle deelintervallen vinden we dan (1.26). Voor de foutschattingen op de afgeleiden kunnen we een analoog bewijs geven. Als p = 1 en als alle referentiesteunpunten onderling verschillend zijn, dan heeft de restrictie van f π tot een deelinterval k + 1 nulpunten volgens (1.3). Volgens de stelling van Rolle heeft de afgeleide f π nog k nulpunten; π interpoleert f dus op k onderling verschillende punten (onbekend, maar wel binnen het deelinterval). Hierop kunnen we dus de reststelling (1.3) weer toepassen. Met een schatting analoog aan (1.24) volgt het bewijs van (1.26) ook in dit geval. Voor hogere afgeleiden herhalen we deze redenering. In het geval p > 1 doen we in principe hetzelfde, alleen moeten we dan een punt, waarin de functiewaarde en p afgeleiden overeenstemmen als een p+1-voudig nulpunt tellen; de afgeleide f π heeft in datzelde punt dan een p-voudig nulpunt, etc. N.B. 1. De beste benadering π in formule (1.26) behoeft geen continue afgeleide te hebben in de punten van, zodat deze formule eigenlijk niet correct is. We moeten dan de supnorm interpreteren als het maximum van de supnormen over de deelintervallen. N.B. 2. De uitspraak (1.26) van deze stelling is meestal ook waar als p k/2, maar een bewijs daarvan is veel ingewikkelder, zoals we zullen zien in het geval van kubische splines (M 3,2 ( )). 1.e Kubische Splines Laat een verdeling van het interval [a, b] zijn, zoals gedefiniëerd in (1.23), en laat f een voldoend gladde functie zijn op dat interval. De kubische spline interpolant S van f is het stuksgewijze polynoom van graad 3 uit M 3,2 ( ), dat voldoet aan de eisen: en aan één van de drie volgende randvoorwaarden: (a) S (a) = f (a), S (t i ) = f(t i ), i = 0,, n, (1.27) S (b) = f (b), (b) S (a) = 0 = S (b) (c) S (a) = S (b), S (a) = S (b), S (a) = S (b). (1.28) Voorwaarde (a) noemen we een vaste rand, voorwaarde (b) een vrije rand en (c) een periodieke rand. In het geval (c) moet de benaderde functie f natuurlijk wel periodiek zijn met periode b a. De spline-benadering van een functie f is een benadering met minimale tweede afgeleide, zoals volgt uit: Stelling: Als f C 4 ([a, b]), dan geldt f S 2 2 = f 2 2 S 2 2. (1.29)

10 1 INTERPOLATIE EN APPROXIMATIE 17 Bewijs. f S 2 2 = f (f, S ) + S 2 2 Het inprodukt kunnen we partiëel integreren, b a (f S ) S dx = = f (f S, S ) S 2 2. b a (f S ) S dx + [(f S ) S ] b a. De stokterm hierin is nul onder ieder van de drie voorwaarden (1.28). De integraal kunnen we splitsen in de integralen over de n deelintervallen en opnieuw partiëel integreren, b a (f S ) S dx = n ti t i 1 (f S ) S dx = n ti t i 1 (f S ) S (4) dx [(f S ) S ]t i t i 1. De integraal is nul, omdat S een derde graads polynoom is en de vierde afgeleide dus nul is, en de stokterm is nul wegens (1.27). Uit formule (1.29) zien we, dat onder alle C 2 -functies op [a, b], die f interpoleren op, de splinebenadering van f de kleinste gemiddelde tweede afgeleide heeft (de funktionaal ϕ ϕ 2 minimaliseert bij gegeven ϕ f 2 ). 1.f Praktisch rekenen met kubische splines Neem nu aan, dat van een functie f de functiewaarden in de n + 1 punten van en de afgeleiden in de randpunten a en b gegeven zijn. Welke berekeningen moeten we uitvoeren om bij gegeven x [a, b] de waarde van de spline-benadering (met vaste rand) in dat punt te vinden. Voor dit probleem zijn verschillende oplossingen mogelijk. Hier zullen we twee manieren beschrijven, waarbij de spline op ieder deelinterval op een speciale manier gerepresenteerd wordt. Hiertoe voeren we de volgende notaties in, h i := t i t i 1, (deelintervallengte) f i := f(t i ), (functiewaarden in de interpolatiepunten) d i := f i f i 1 h i, (differentiequotiënten ) S i := S [ti 1, t i ] (restriktie tot het i-de deelinterval) en voor x [ t i 1, t i ] schrijven we t := (x t i 1 )/h i. De restriktie S i van S tot [t i 1, t i ] kunnen we dan alsvolgt schrijven: S i (x) = tf i + (1 t)f i 1 + h i t(1 t){(λ i 1 d i )(1 t) (λ i d i )t}, (1.30) waarin λ i en λ i 1 nog te bepalen constanten zijn. Deze representatie is zo gekozen, dat S i 1 en S i continu op elkaar aansluiten in t i 1, hun waarden aldaar zijn immmers gelijk aan f i : S i (t i 1 + 0) = f i 1 = S i 1 (t i 1 0) ( limiet van rechts 2 = limiet van links). (1.31) Hetzelfde geldt voor de afgeleiden in dat punt, S i(t i 1 + 0) = λ i 1 = S i 1(t i 1 0). (1.32) De tweede afgeleide in t i 1 moet ook continu zijn. Met de identiteit S i (x) = 1 h i (λ i 1 (6t 4) + λ i (6t 2) + d i (6 12t)) (1.33) 2 Met f(x + 0) duiden we de limiet van rechts aan, f(x+0) := lim tց0 f(x + t) en met f(x 0) dus de limiet van links.

11 1 INTERPOLATIE EN APPROXIMATIE 18 en de continuïteitsvoorwaarde S i (t i 0) = S i+1 (t i +0) vinden we voor de onbekenden λ i het stelsel vergelijkingen h i+1 λ i 1 + 2(h i + h i+1 )λ i + h i λ i+1 = 3(h i d i+1 + h i+1 d i ), (i = 1,, n 1) (1.34) Dit zijn n 1 vergelijkingen voor n + 1 onbekenden. De onbekenden λ 0 en λ n vinden we uit de voorwaarden voor de vaste rand, S 1(a + 0) = λ 0 = f (a) en S n(b 0) = λ n = f (b). (1.35) Zo houden we een diagonaaldominant tridiagonaal stelsel van n 1 vergelijkingen over, dat gemakkelijk en stabiel oplosbaar is met Gausseliminatie zonder rijverwisselingen. Om bij een gegeven rij functiewaarden de spline in een willekeurig punt uit te rekenen, moeten we dus eerst eenmalig een tridiagonaal stelsel oplossen (de rij λ i berekenen). Daarna kunnen we met behulp van formule (1.30) de spline in ieder gewenst punt uitrekenen. Opgave 1.7: Laat zien, dat een vrije randvoorwaarde de twee volgende vergelijkingen oplevert, 2λ 0 + λ 1 = 3d 1, en λ n 1 + 2λ n = 3d n, (1.36) en dat periodieke randvoorwaarden een extra vergelijking opleveren (behalve λ 0 = λ n ), h n λ 1 + 2(h 1 + h n )λ n + h 1 λ n 1 = 3(d 1 h n + d n h 1 ). (1.37) In de representatie (1.30) hebben we de afgeleiden van de spline in de steunpunten als onbekenden genomen en er vergelijkingen voor afgeleid uit de continuïteitsvoorwaarden voor de tweede afgeleiden. Analoog kunnen we een representatie kiezen, waarin de tweede afgeleiden (de momenten M i van S genaamd) de onbekenden zijn, waarvoor vergelijkingen worden afgeleid uit de continuïteit van de eerste afgeleiden. Als we kiezen voor de representatie dan geeft twee maal integreren S i (x) = M i 1 (1 t) + M i t, (t := (x t i 1 )/h i ) S i (x) = 1 6 h2 i M i 1 (1 t) h2 i M i t 3 + A i (1 t) + B i t, waarbij de integratieconstanten A i en B i bepaald worden uit de relaties S (t i ) = f i en S (t i 1 ) = f i 1. Zo vinden we op het deelinterval [t i 1, t i ] de representatie S i (x) = (f i 1 6 h2 i M i )t + (f i h2 i M i 1 )(1 t) h2 i M i 1 (1 t) h2 i M i t 3. (1.38) waarin alleen de momenten als onbekenden voorkomen. Uit de continuïteit van de eerste afgeleiden in t i, (i = 1,, n 1) vinden we na enig rekenwerk de vergelijkingen met α i := α i M i 1 + 2M i + β i M i+1 = 3m i, (1.39) h i h i + h i+1, β i := h i+1 h i + h i+1, m i := 2 d i+1 d i h i + h i+1. voor i = 1,, n 1. Vanwege de vaste rand vinden we nog twee extra vergelijkingen, 2M 0 + M 1 = 3m 0, m 0 := 2 h 1 (d 1 f (a)), M n 1 + 2M n = 3m n, m n := 2 h n (f (b) d n ). (1.40)

12 1 INTERPOLATIE EN APPROXIMATIE 19 De matrix in het zo verkregen stelsel vergelijkingen is diagonaaldominant, zodat ook dit stelsel een unieke oplossing heeft. Opgave 1.8: Ga na dat in het periodieke geval (1.39) ook voor i = 0 geldt, als we de indices modulo n nemen. Ga ook na dat M 0 = M n = 0 in het geval van een vrije rand. Met behulp van de representatie (1.38) van de spline met de momenten als onbekenden kunnen we redelijk gemakkelijk een foutschatting afleiden. Hiervoor bewijzen we eerst het volgende lemma: Lemma. Zij A de tridiagonale matrix behorende bij het stelsel vergelijkingen ( ) voor de momenten, α 1 2 β α 2 2 β α 3 2 β 3 0 A :=..., (1.41) α n 1 2 β n dan geldt x Ax voor elke vektor x IR n+1 (d.w.z. A 1 1). Bewijs. Zij x k := max i x i de grootste komponent van x, dan geldt voor de k-de komponent van de vector Ax: (Ax) k = 2x k + α k x k 1 + β k x k+1 x k, omdat α k + β k = 1. Hieruit volgt de bewering. Stelling Als f C 4 ([a, b]) en als S de kubische spline interpolant van f met vaste rand is, dan voldoet deze tesamen met zijn eerste drie afgeleiden aan de foutschatting f (i) S (i) C i h 4 i f (4), i = 0, 1, 2, 3, (1.42) waar h de maximale maaswijdte is van en C i een constante is, die niet afhangt van f en van de verdeling. Bewijs. We zullen (1.42) eerst bewijzen voor i = 2 door te laten zien dat S (een stuksgewijs lineair polynoom) dicht bij de lineaire interpolant van f ligt. Daarna leiden we hieruit een schatting af voor de andere afgeleiden. Om de formules eenvoudig te houden, zullen we aannemen dat de verdeling equidistant is, t i t i 1 = h i. Voor het rechterlid van (1.39) geldt nu: m i = f i 1 2f i + f i+1 h 2 = f (t i ) + h2 12 f(4) (ξ i ). (1.43) Omdat α i = β i = 1 2, vinden we uit (1.39) voor de verschillen v i := M i m i de relaties v i v i + v i+1 = 2 m i m i 1 m i+1 = h2 12 f(4) (η i ). Met behulp van het lemma volgt hieruit v i = M i m i h2 12 f(4). (1.44) Hieruit volgt dat het verschil tussen S en de lineaire interpolant van f op de punten t i en t i 1 op het gehele deelinterval [t i 1, t i ] begrensd is door (1.44). Het verschil tussen S en f op dit deelinterval is dus hoogstens gelijk aan dit bedrag vermeerderd met de lineaire-interpolatiefout, S f ( ) h2 f (4). (1.45)

13 1 INTERPOLATIE EN APPROXIMATIE 20 Voor een schatting van f S gebruiken we de Lagrange-restterm (1.3) op de volgende manier. Als g C 2 en g(x 1 ) = g(x 2 ) = 0, dan geldt g(x) 1 2 (x x 1)(x x 2 ) g (ξ x ) 1 8 (x 1 x 2 ) 2 g, x [x 1, x 2 ]. (1.46) Het verschil f S i is nul in de randpunten t i en t i 1, zodat toepassing van (1.46) op dit verschil het volgende resultaat geeft: f S h2 8 S f h4 f (4). Omdat het verschil f S i nul is in de randpunten t i en t i 1, heeft de afgeleide f S i een nulpunt ζ binnen dat interval en kunnen we schrijven f (x) S i(x) = x ζ f (s) S (s) ds. Met behulp van (1.45) vinden we dus de schatting f S i 5 24 h3 f (4). Tenslotte vinden we de schatting voor de derde afgeleide f (3) S (3) door op het deelinterval [t i 1, t i ] de derde afgeleide S (3) te vergelijken met de afgeleide van de lineaire interpolant van f op de steunpunten t i en t i 1. Deze stelling geldt ook voor een periodieke spline benadering van een periodieke functie (met een analoog bewijs), maar niet voor een spline benadering met een vrije rand. Bij een vrije rand is de tweede afgeleide in de randpunten a en b nul en kan dit i.h.a. onmogelijk een benadering geven van f van orde h 2. Het is echter wel te bewijzen, dat deze onnauwkeurigheid aan de rand naar het midden toe snel uitdempt en verwaarloosbaar klein wordt.

14 REFERENCES 112 References [1] M. Hestenes & E. Stiefel, Methods of conjugate gradients for solving linear systems, J. Research NBS, 49, pp , [2] C. Lanczos, An iteration method for the solution of the eigenvalue problem of linear differential and integral operators, J. Research NBS, 45, pp , [3] J.K. Reid, On the method of conjugate gradients for the solution of large sparse systems of linear equations, Proc. Conf. on Large Sparse Sets of Linear Equations, Academic Press, New York, [4] J.A. Meijerink and H.A. van der Vorst, An iterative solution method for linear systems of which the coefficient matrix is a symmetric M-matrix, Math.of Comp., 31, pp , [5] G.H. Golub & C.F. Van Loan, Matrix Computations, The Johns Hopkins University Press, Baltimore, Maryland, USA, 1 ste druk, 1983, 2 de druk, 1988, 3 de druk, [6] R. Bulirsch & J. Stoer, Introduction to Numerical Analysis, Springer Verlag, Berlin, (Ook verkrijgbaar in een goedkope duitstalige pocketeditie). [7] D. Kincaid & W. Cheney, Numerical Analysis, Brooks & Cole Publishing Company, Pacific Grove, California, USA, 1991; 2de druk, 1996.