2 ). Door steeds de functiewaarde aan de linkerkant te kiezen, krijgen we de benaderingsformule

Transcriptie

1 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse Les 9 Numerieke integrtie In de prktijk is het mr zelden het gevl dt we een functie expliciet kunnen primitiveren. Voorbeelden hiervoor zijn de Guss-functie e x die in de sttistiek en knsrekening en bij probbilistische modellen een belngrijke rol speelt, mr ook de functie sin(x) x die we bij de Fourier trnsformtie vker zijn tegen gekomen heeft geen primitieve die zonder integrl te schrijven is. Verder is de situtie bij de integrtie vk vergelijkbr met de discrete Fourier trnsformtie, nmelijk dt we een functie lleen mr in sommige (discrete) punten kennen, bijvoorbeeld door een meting. Om in deze situtie niettemin integrlen te kunnen berekenen, zijn numerieke benderingsmethoden belngrijk. De mnier vn npk hierbij is enigszins voor de hnd liggend, wnt we hebben de integrl gedefinieerd ls limiet vn een bendering met smlle rechthoeken en gn dit nu op een of ndere mnier omdrien. 9.1 Constnte fstnden De eenvoudigste methoden om een integrl op het intervl [, b] numeriek te benderen, gebruiken een onderverdeling vn het intervl in even grote stukken x en benderen de oppervlkte vn f(x) op het deelintervl x door een rechthoek. Voor de hoogte vn de rechthoek zijn er ntuurlijk verschillende mogelijkheden, voor de hnd liggend zijn de functiewrde n de linkerknt vn het intervl, n de rechterknt vn het intervl, of in het midden vn het intervl. Om de integrl f(x) dx te berekenen, delen we het intervl [, b] in N delen vn lengte x, dus is x = b N. De rndpunten vn de deelintervllen noemen we x,..., x N, wrbij x i := + i x, dn is x = en x N = b. Als we de hoogte vn de rechthoek op het deelintervl [x i, x i ] door de wrde n de linkerknt benderen, is dit f(x i ), n de rechterknt hebben we f(x i ) en in het midden is het f(x i x ). Door steeds de functiewrde n de linkerknt te kiezen, krijgen we de benderingsformule f(x i ) x = b N (f(x ) + f(x 1 ) f(x N )). Net zo geeft de functiewrde n de rechterknt vn het deelintervl de formule f(x i ) x = b N (f(x 1) + f(x ) f(x N )). Als we een goede bendering willen hebben, moeten we x zeker redelijk klein kiezen, mr dn kunnen we ervn uitgn dt f(x) op de meeste vn de deelintervllen monotoon (stijgend of dlend) is. In zo n gevl is de bendering vn de functiewrde op een deelintervl door de wrde n een vn de rnden 115

2 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse zeker slechter dn de bendering door de wrde in het midden vn het deelintervl. Drom krijgt men bijn ltijd een betere bendering door de wrde in het midden te kiezen, dus door f(x i x ) x = b N ( f(x 1 x ) + f(x x ) f(x N x ) Meestl wordt deze formule de rechthoek-regel genoemd, mr soms vllen ook de formules met de wrden n de linker- of rechterknt vn het deelintervl onder deze nm. Het idee bij de rechthoek-regel is in principe dt we de functie f(x) door een stuksgewijs constnte functie benderen wrvoor we de integrl mkkelijk uit kunnen rekenen. Mr we kennen ntuurlijk betere benderingen vn een functie f(x) dn door stuksgewijs constnte functies. Om de nottie iets eenvoudiger te houden, kijken we lleen mr nr één deelintervl en noemen de grenzen hiervn weer en b. De eerstvolgende soort vn functies die beter zijn dn constnte functies zijn lineire functies. Als we een functie f(x) op een intervl [, b] door een lineire functie willen benderen, is de meest voor de hnd liggende keuze hiervoor de lijn door de twee rndpunten, dus de lijn door de punten (, f()) en (b, f(b)). De oppervlkte wrmee we onze functie benderen is dn geen rechthoek meer mr een trpezium met hoogte f() n de ene knt en hoogte f(b) n de ndere. Mr de oppervlkte vn dit trpezium is gewoon 1 b (f() + f(b)) x = (f() + f(b)). Als we nu weer nr de combintie vn meerdere deelintervllen kijken, moeten we de oppervlkten vn de trpeziums bij elkr optellen, dit geeft dn 1 (f(x i) + f(x i )) x ). = x 1 (f() + f(x 1) + f(x 1 ) + f(x ) f(x N ) + f(b)) = b N N (f() + f(b) + f(x i )) Deze benderingsformule voor een integrl heet de trpezium-regel. In Figuur I.4 zijn de benderingen vn de integrl onder de stndrdnormlverdeling f(x) := 1 π e x met behulp vn de rechthoek-regels en de trpeziumregel te zien. Het linkerpltje geeft de rechthoeken met wrden n de linkeren n de rechterknt. Omdt f(x) op het intervl [, ] strikt dlend is, geeft de wrde n de linkerknt steeds een te grote en de wrde n de linkerknt steeds een te kleine wrde. Het middelste pltje lt zien dt de wrde in 116

3 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse het midden vn het deelintervl l een betere bendering geeft, en het rechterpltje mkt duidelijk dt de trpezium-regel een nog betere bendering geeft x x x Figuur I.4: Rechthoek-regels en trpezium-regel. We zijn vn de rechthoek-regel nr de trpezium-regel gekomen, door een functie door een stuksgewijs lineire functie in plts vn een stuksgewijs constnte functie te benderen. Mr in het kder vn de Tylor reeksen hebben we l gezien dt we functies steeds beter door veeltermen vn hogere grd kunnen benderen. Drom is de volgende voor de hnd liggende stp, de functie f(x) op een deelintervl [x i, x i ] door een kwdrtische functie te benderen. Het idee is dn weer, de oppervlkte onder de prbool ls bendering vn de oppervlkte onder de grfiek vn f(x) te zien. Mr de oppervlkte onder een prbool kunnen we mkkelijk beplen, en het is zelfs voldoende ls we dit voor de stndrd-prbool f(x) = x berekenen. Voor f(x) := x geldt dt f(x) dx = = b x dx = 1 x b = 1 (b ) = 1 (b )( + b + b ) 1 ( + ( + b) + b ) = b ( + 4( + b 6 ) + b ) = b + b (f() + 4f( 6 ) + f(b)). Mr dezelfde vergelijking b f(x) dx = 6 (f() + 4f(+b ) + f(b)) geldt ook voor een geschlde prbool f(x) := c x en omdt we en b willekeurig hebben gekozen geldt dit ook voor een lngs de x-s verschoven prbool. En ook ls we lngs de y-s verschuiven, dus vn f(x) tot f(x) + d over gn, klopt het nog steeds, omdt f(x) + d dx = f(x) dx + (b )d en ook b +b b 6 (f()+d+4(f( )+d)+f(b)+d) = 6 (f()+4f(+b )+f(b))+(b )d. Het idee is nu dt we de functie f(x) op het intervl [, b] benderen door de prbool die door de drie punten (, f()), ( +b, f(+b )) en (b, f(b)) loopt. De oppervlkte onder deze prbool berekenen we met behulp vn de boven gegeven formule en we nemen dit ls bendering voor de oppervlkte onder de 117

4 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse grfiek vn f(x). Dit geeft dus de benderingsformule b + b (f() + 4f( 6 ) + f(b)) en we weten dt deze voor kwdrtische veeltermen zelfs exct is. De formule b +b 6 (f() + 4f( ) + f(b)) stt ook bekend ls Keplers vtregel. Omdt Kepler n nleiding vn zijn (tweede) huwelijk ontevreden ws over de methode hoe de inhoud vn een vt wijn bepld werd (meten met behulp vn een stf door het spongt) wilde hij een eenvoudige formule vinden om het volume vn een vt te beplen. Zijn idee ws, het volume ls volume vn een rottielichm te berekenen, wrbij de helft vn de doorsnede vn het vt rond een s tussen bodem en deksel roteert. r m = f( +b ) r = f() r b = f(b) Gemeten werd de strl r = f() vn de bodem, de strl r b = f(b) vn de deksel en de strl r m = f( +b ) in het midden vn het vt en ntuurlijk de hoogte h = b vn het vt. Het roterende oppervlk A benderde Kepler nu op twee mnieren: Een keer door de te grote rechthoek met hoogte r m en breedte h en een keer door de twee trpeziums tussen r en r m en tussen r m en r b, die smen een te kleine wrde opleveren. en een keer door twee te kleine trpeziums. Dit gf de ongelijkheden (b )r m A b r + r m + b r m + r b = b 4 (r +r m +r b ). Het ltste idee ws nu, een gemiddelde vn de twee benderingen vn A te nemen, wrbij de rechthoek gewicht 1 en de trpeziums gewicht krijgen, omdt de trpeziums een onderverdeling in twee stukken gebruiken. Dit geeft de bendering A 1 ((b )r m + b (r + r m + r b )) = b 6 (r + 4r m + r b ) en dit is precies wt we boven hebben gevonden. Het volume vn het vt wordt op een soortgelijke mnier benderd: Als de rechthoek roteert geeft dit een cilinder en ls de trpeziums roteren 118

5 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse geeft dit twee kegelstompen. Ook deze volumes worden weer met de gewichten 1 : gemiddeld, en dit geeft de benderingsformule voor het volume. V = π 9 (b )(r + 5r m + r b + r r m + r m r b ) Als we nu weer het intervl [, b] in meerdere deelintervllen [x i, x i ] vn breedte x opsplitsen en op elk deelintervl Keplers vtregel toepssen, krijgen we 1 6 (f(x i) + 4f( x i + x i ) + f(x i )) x 1 = 6 (f(x i) + 4f(x i x ) + f(x i)) x = x ( f() + 4f(x 1 x 6 ) + f(x 1) + f(x 1 ) + 4f(x x ) +f(x ) f(x N ) + 4f(x N x ) ) + f(b) = b 6N ( f() + f(b) + N f(x i ) + 4 f(x i x ) en dit stt bekend ls de Simpson-regel. Dit is de typische mnier hoe in zkrekenmchines integrlen uitgerekend worden. Nu dt we een keer op stp zijn kn ons ntuurlijk niets meer hinderen om ook eens een bendering door een derdegrds-veelterm te proberen. Een soortgelijke redenering ls boven lt zien dt het voldoende is om de functie f(x) := x te bekijken. Er geldt f(x) dx = = b 4 = b 8 x dx = 1 4 x4 b = 1 4 (b4 4 ) = 1 4 (b )( + b + b + b ) 1 ( + ( + b + b (f() + f( ) + ( + b ) + b ) ) + f( + b ) + f(b)). Als we dit nu weer op deelintervllen gn toepssen, krijgen we 1 8 (f(x i) + f( x i + x i ) + f( x i + x i ) + f(x i )) x ( ) = b N f() + f(b) + f(x i ) + (f(x i 8N x) + f(x i 1 x)) en dit heet de Newton 8-regel. Het is trouwens zo dt ook de Simpson-regel l exct voor derdegrds-veeltermen is, mr dit is eigenlijk een beetje toevl, 119 )

6 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse omdt zekere termen bij het uitwerken vn de Simpson-regel voor f(x) := x tegen elkr wegvllen. Op een soortgelijke mnier kunnen we doorgn met benderingen door vierdegrds-, vijfdegrds- en hogere veeltermen. Dit geeft de zogeheten Newton-Cotes-formules, wrbij voor een vste N het intervl [, b] in N even grote stukken vn lengte x = b N onderverdeelt wordt. Vervolgens wordt door de N + 1 punten (x i, f(x i )) met x i := + i x een veelterm vn grd N gelegd en de oppervlkte onder f(x) bendert door de oppervlkte onder de grfiek vn deze veelterm. Men krijgt op deze mnier steeds een formule vn de vorm b m w i f( + i x) voor zekere gewichten w i een een noemer m. De volgende tbel geeft de gewichten en noemers voor N = 1,,..., 6: i= N m w i nm trpezium-regel Simpson-regel Newton- 8 -regel Milne-regel Weddle-regel Ntuurlijk worden ook deze formules weer op onderverdelingen vn het intervl [, b] in deelintervllen toegepst. Het probleem hierbij is, dt de nuwkeurigheid niet meer zo snel toeneemt, terwijl frondingsfouten bij veeltermen vn hogere grd een steeds grotere rol gn spelen. Wt men in plts vn een bendering vn de functie door veeltermen vn steeds hogere grd in de prktijk meestl toepst, zijn dptieve methoden. Het idee is, met een eenvoudige methode zo ls de trpezium-regel of (hooguit) de Simpson-regel op een redelijk grove onderverdeling te beginnen en deze vervolgens te verfijnen. Op stukken wr de verfijning bijn geen verndering meer oplevert (d.w.z. de verndering ligt binnen de gewenste nuwkeurigheid), is de bendering blijkbr l heel goed en hoeven we hier niets meer n te vernderen. Drentegen gn we op deelstukken wr de verfijning wel een grotere verndering oplevert nog verder verfijnen, tot dt we ook hier de gewenste nuwkeurigheid bereiken. Een bekende methode vn deze soort is de Romberg-methode die veel toegepst wordt. We gn nu een pr vn de genoemde methoden vergelijken, door de integrl 1 I := e x dx π 1

7 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse vn de stndrdnormlverdeling met verwchtingswrde en stndrdfwijking 1 te benderen. Omdt de normlverdeling symmetrisch ten opzichte vn het nulpunt is, geeft deze integrl de helft vn de kns, dt bij een normlverdeling een gebeurtenis binnen keer de stndrdfwijking vn de verwchtingswrde vlt. Uit de sttistiek weten we, dt deze kns ongeveer 95% is. De op 16 decimlen fgeronde wrde vn de integrl is I = De volgende tbel geeft de benderingen vn de integrl met de rechthoekregel (voor het midden vn het deelintervl), met de trpezium-regel en met de Simpson-regel. In elk gevl worden onderverdelingen in N = 4, 8, 16,, 64 deelintervllen bekeken. N rechthoek trpezium Simpson We zien dt de rechthoek-regel en de trpezium-regel in dit gevl ongeveer even goed scoren, met 64 deelintervllen hebben we een bendering met een nuwkeurigheid vn 1 5 bereikt. Mr met de Simpson-regel bereiken we deze nuwkeurigheid l met 4 deelintervllen en met elke verdubbeling vn het ntl deelintervllen komt er ongeveer één juiste cijfer erbij. 9. Guss kwdrtuur Tot nu toe hebben we een integrl steeds met een formule vn de vorm b N w i f(x i ) bendert, wrbij x i = + i x. De punten x i wr we de functie evlueren noemen we ook de roosterpunten. De Newton- Cotes methoden zijn dus lleml methoden met roosterpunten met constnte fstnden. Het is ntuurlijk ngenm om hiermee te werken, mr n de ndere knt is het eigenlijk een onnodige beperking. Het lgemene idee chter de zogeheten Guss kwdrtuur-methoden is, de integrl f(x) dx te benderen door een formule vn de vorm w i f(x i ) wrbij de roosterpunten x i geschikt gekozen punten in het intervl [, b] zijn en de w i zekere gewichten. Het doel is hierbij, x i en w i zo te kiezen dt de formule voor veeltermen vn zo hoog mogelijke grd exct zijn. Om de nottie te vereenvoudigen, speciliseren we het intervl [, b] nu tot het intervl [, 1]. We zullen lter zien, hoe we weer terug nr een lgemeen intervl komen. 11

8 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse Legendre-veeltermen We hebben l in het kder vn de Fourier trnsformtie nr inproducten vn functies gekeken, een voorbeeld hiervn is Φ(f(x), g(x)) := f(x) g(x) dx. Het doel is, een orthogonl stelsel vn veeltermen ten opzichte vn dit inproduct te vinden. Hiervoor beginnen we met p (x) := 1 en zien dt p 1 (x) := x l loodrecht op p (x) stt. Vervolgens beplen we p (x) met Φ(p (x), p (x)) = en Φ(p (x), p 1 (x)) = door de projecties vn f(x) = x op p (x) en p 1 (x) vn x f te trekken. Er geldt Φ(x, p (x)) = x dx = en Φ(x, p 1 (x)) = en wegens Φ(p (x), p (x)) = is de projectie vn x op p (x) dus 1 p (x). De veelterm x 1 stt dus loodrecht op p (x) en op p 1 (x). Op een soortgelijke mnier kn men nu doorgn en voor elke n een veelterm p n (x) beplen die loodrecht op de eerder gevonden p m (x) met m < n stt. Dit is de Grm-Schmidt orthogonlistie methode. Echter lt zich een orthogonl stelsel vn veeltermen ook op een rechtstreekse mnier vinden, nmelijk de Legendre-veeltermen. De Legendre-veelterm p n (x) vn grd n is gedefinieerd door p n (x) := 1 n n! d n dx n (x 1) n, p (x) = 1. Dit betekent dt we p n (x) krijgen door de n-de fgeleide vn de veelterm (x 1) n te berekenen. Omdt (x 1) n een veelterm vn grd n is, levert de n-de fgeleide inderdd een veelterm vn grd n. Men gt nu n dt voor de Legendre-veeltermen geldt dt p n (x)p m (x) dx = ls m n en p n (x)p n (x) dx = n + 1, met ndere woorden zijn de Legendre-veeltermen een orthogonl stelsel ten opzichte vn het inproduct Φ. Een belngrijke reltie om de Legendre-veeltermen te berekenen is de recursie formule (n + 1)p n+1 (x) = (n + 1)xp n (x) np n (x). Met p (x) = 1 en p 1 (x) = x lten zich hieruit de eerste Legendre-veeltermen snel berekenen: p (x) = 1 (x 1) p (x) = 1 (5x x) p 4 (x) = 1 8 (5x4 x + ) p 5 (x) = 1 8 (6x5 7x + 15x) p 6 (x) = 1 16 (1x6 15x x 5) 1

9 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse De Guss-Legendre methode Wt hebben de Legendre-veeltermen nu met numerieke integrtie te mken? Het ntwoord is, dt we de nulpunten vn de Legendre-veeltermen ls roosterpunten x i kiezen. Er lt zich nmelijk ook ntonen, dt de n-de Legendreveelterm p n (x) in het intervl [, 1] precies n verschillende nulpunten heeft. Voor p 1 (x) is dit bijvoorbeeld x 1 = en voor p (x) zijn dit x 1 = 1 en x = 1. We kiezen nu eerst een vst ntl N vn roosterpunten, en kiezen ls roosterpunten x 1,..., x N de nulpunten vn p N (x). De gewichten w 1,..., w N gn we nu zo beplen, dt de formule w i f(x i ) voor veeltermen vn grd, 1,..., N 1 exct is. Dit is mogelijk omdt we het met een stelsel vn N lineire vergelijkingen in de N onbekende w 1,..., w N te mken hebben, met ls vergelijkingen w i x j i = x j dx voor j =, 1,..., N 1. Men gt n dt de determinnt vn de mtrix vn dit stelsel vergelijkingen ongelijk n is en het stelsel drom een eenduidige oplossing heeft. De bewering is nu, dt met deze keuze vn roosterpunten x i en gewichten w i, de formule w i f(x i ) voor elke veelterm f(x) vn grd hoogstens N 1 exct is. Dit zien we ls volgt in: Zij f(x) een veelterm vn grd m N 1, dn kunnen we f(x) met behulp vn een strtdeling schrijven ls f(x) = p N (x)g(x) + r(x) wrbij de grden vn g(x) en r(x) hoogstens N 1 zijn. An de ene knt geldt nu f(x) dx = p N (x)g(x) dx + r(x) dx = r(x) dx omdt p N(x)x m dx = voor lle m < N, wnt x m is een lineire combintie vn de p k (x) met k m en deze stn lleml loodrecht op p N (x). An de ndere knt is w i f(x i ) = w i p N (x i )g(x i ) + w i r(x i ) = w i r(x i ) 1

10 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse omdt de x i de nulpunten vn p N (x) zijn, dus p N (x i ) = voor lle i. Mr de gewichten w i zijn juist zo gekozen dt r(x) dx = N w i r(x i ) voor veeltermen r(x) vn grd hoogstens N 1, en bij elkr genomen zegt dit dt inderdd f(x) dx = N w i f(x i ). De methode om een integrl met deze roosterpunten en gewichten te benderen, heet de Guss-Legendre methode. Merk op dt de roosterpunten x i en de gewichten w i lleen mr vn het gekozen ntl N vn roosterpunten fhngt, mr niet vn de functie f(x). Voor gegeven N kunnen de x i en w i dus een keer uitgerekend en tot de benodigde nuwkeurigheid opgeslgen worden. De volgende tbel geeft de roosterpunten x i en de gewichten w i vn de Guss- Legendre-methode voor N = 1,..., 4 met een nuwkeurigheid vn 6 decimlen. Merk op dt met N = 4 veeltermen vn grd 7 nog exct uitgewerkt worden. N i x i w i We zijn bij de Legendre-veeltermen ervn uit gegn dt we een integrl op het intervl [, 1] willen berekenen. Mr een integrl op een lgemeen intervl [, b] kunnen we door een eenvoudige substitutie op dit intervl terug brengen, er geldt: Met u = b x b+ b b is x = x(u) = u + b+ en dx = b du. Als u vn tot 1 loopt, loopt x vn tot b en er geldt dus: f(x) dx = b f(x(u)) du = b Als we de Guss-Legendre methode weer op de integrl I := f(x) dx met f(x) := 1 e x π f ( b u + b + ) vn de stndrdnormlverdeling willen toepssen, is de substitutie gewoon een verschuiving om 1, dus we berekenen de integrl door I := 1 π e (x+1) dx. Voor N = hebben we x 1 = 1, x = 1 en w 1 = w = 1. Als we hiermee de integrl I zonder verdere onderverdeling vn het intervl benderen, krijgen du. 14

11 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse we I f(x 1 + 1) + f(x + 1) = en dit is een fwijking vn slechts.5%. Voor N = hebben we x 1 = 5, x =, x = 5 en w 1 = 5 9, w = 8 9, w = 5 9. In dit gevl krijgen we I w 1 f(x 1 +1)+w f(x +1)+w f(x +1) = en dit is een fwijking vn.4%. De Guss-Legendre methode is een specil gevl vn een lgemenere klsse vn methode, die onder de nm Guss kwdrtuur vllen. Hierbij gt het om het benderen vn integrlen vn de vorm ρ(x)f(x) dx voor een zekere gewichtsfunctie ρ(x) die in het gevl vn de Guss-Legendre methode ρ(x) = 1 is. Deze gewichtsfunctie kn men ook in het inproduct inbouwen, dit is dn Φ(f(x), g(x)) := ρ(x)f(x)g(x) dx. Voor zekere functies ρ(x) krijgt men ook in dit gevl een stelsel vn orthogonle veeltermen. Voorbeelden zijn: ρ(x) = 1 1 x op [, 1] geeft de Chebyshev-veeltermen, ρ(x) = e x op [, ] geeft de Lguerre-veeltermen, ρ(x) = e x op [, ] geeft de Hermite-veeltermen. Anloog met het gevl vn de Legendre-veeltermen worden in elk gevl de nulpunten vn deze veeltermen ls roosterpunten gekozen en de gewichten zo bepld, zo dt de formule ρ(x)f(x) dx = N w i f(x i ) exct is voor veeltermen f(x) vn grd hoogstens N Functies vn meerdere vribelen We hebben in de vorige les gezien, dt we integrlen over functies vn meerdere vribelen in principe uit kunnen werken door in elkr geschkelde gewone integrties. Hetzelfde geldt ook voor de numerieke integrtie, we kunnen de integrties voor de verschillende vribelen chter elkr uitvoeren, wrbij we voor elke 1-dimensionle integrtie onze fvoriete benderingsmethode gebruiken. We gn dit nu eens n de hnd vn een functie f(x, y) vn vribelen voor de Simpson-regel en de Guss-Legendre methode uitschrijven. -dimensionle Simpson-regel De 1-dimensionle Simpson-regel geeft voor een onderverdeling vn het intervl [, b] in N deelintervllen de benderingsformule b 6 ( f() + f(b) + wrbij x = b N, x i = + i x en x i 1 N = x i x. f(x i ) + 4 f(x i 1 ) Als we nu een integrtie vn een functie met meerdere vribelen willen benderen, kunnen we de Simpson-regel op de enkele 1-dimensionle integrties toepssen. Voor een functie f(x, y) vn twee vribelen op de rechthoek R = ) 15

12 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse [, b] [c, d], wrbij we het intervl [, b] in N stukken vn lengte x = b N en het intervl [c, d] in M stukken vn lengte y = d c M onderverdelen, geeft dit: d ( ) f(x, y) da = f(x, y) dx dy R c c c ( ) d N b c N (f(, y) + f(b, y) + f(x i, y) + 4 f(x i 1, y) = b ( d d f(, y) dy + f(b, y) dy N c c N d ) d + f(x i, y) dy + 4 f(x i 1, y) dy In elke integrl in deze formule moeten we nu nog de Simpson-regel op de y- coördint toepssen, dit betekent dt elke integrl in vier termen opgesplitst moet worden. De uiteindelijke formule ziet er niet zo erg mooi uit, mr is wel nuttig: f(x, y) da R (b )(d c) NM f(, c) + f(, d) + M + f(b, c) + f(b, d) + f(b, y j ) + 4 N + +4 j=1 (f(x i, c) + f(x i, d)) + 4 N (f(x i 1, c) + f(x i 1, d)) + 8 M j=1 M j=1 M j=1 f(, y j ) + 4 f(b, y j 1 ) M j=1 N f(x i, y j ) + 8 M j=1 f(, y j 1 ) M j=1 f(x i 1, y j ) + 16 dy f(x i, y j 1 ) M j=1 f(x i 1 De beste mnier om de -dimensionle Simpson-regel te onthouden is, de verdeling vn de gewichten in het schem vn roosterpunten te bekijken. De 1-dimensionle Simpson-regel heeft de rij vn gewichten 1, 4,, 4,...,, 4, 1. In dimensies moeten we nu de gewichten voor de twee coördinten met elkr vermenigvuldigen, dit geeft n de rnden gewichten 1, 4,, 4,...,, 4, 1 (omdt we met 1 vermenigvuldigen) en drtussen fwisselend rijen, 8, 4, 8,..., 4, 8, (ls we met vermenigvuldigen) en 4, 16, 8, 16,..., 8, 16, 4 (ls we met 4 vermenigvuldigen). Als we voor de punten x i en y j doorgetrokken lijnen nemen en voor de punten x i 1 en y j 1 stippellijnen, ziet het schem vn gewichten op de roosterpunten er zo uit ls in Figuur I.4., y j 1 ) 16

13 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse Figuur I.4: Gewichten voor -dimensionle Simpson-regel. -dimensionle Guss-Legendre methode Bij de Guss-Legendre methode ziet de situtie er eigenlijk iets overzichtelijker uit. Voor een 1-dimensionle integrl hebben de benderingsformule w i f(x i ) wrbij x i de nulpunten vn de Legendre-veelterm p N (x) vn grd N zijn en de w i de bijhorende gewichten. Als we nu veronderstellen dt we voor de x-richting en de y-richting de Guss-Legendre methode vn dezelfde grd N toepssen, hebben we y i = x i en krijgen voor de integrtie over de vierknt R := [, 1] [, 1]: ( ) ( 1 N ) f(x, y) da = f(x, y) dx dy w i f(x i, y) dy R = w i f(x i, y) dy w j f(x i, y j ) = j=1 w i w j f(x i, y j ). Deze formule betekent dt we over de functiewrden in de roosterpunten (x i, y j ) met 1 i, j N middelen, wrbij de functiewrde in het punt (x i, y j ) het gewicht w i w j krijgt. Voor N = 4 hebben we de nulpunten x 1 = y 1 =.86116, x = y =.9981, x = y =.9981, x 4 = y 4 =.86116, en de gewichten w 1 = w 4 =.47855, w = w = Hieruit volgt, dt er mr verschillende gewichten voor de roosterpunten zijn, nmelijk w 1 w 1 = w 1 w 4 = w 4 w 1 = w 4 w 4 =.11, w 1 w = w 1 w = w w 1 = w w 4 = w w 1 = w w 4 = w 4 w = w 4 w =.685, w w = w w = w w = w w = We krijgen dus een pltje vn roosterpunten en gewichten zo ls in Figuur I w i j=1

14 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse y 4 y x 1 x x x 4 y : gewicht.11 : gewicht.685 : gewicht.4594 y 1 Figuur I.44: Roosterpunten en gewichten voor -dimensionle Guss-Legendre methode met N = 4. Specile methoden In het (belngrijke) -dimensionle gevl zijn er ook nog lterntieve methoden, die een goede bendering opleveren. Het idee dt we bij de trpezium-regel hdden, ws dt we de functie tussen twee punten door een lijn benderen. Mr net zo ls twee punten in het vlk een lijn eenduidig beplen, leggen drie punten in de -dimensionle ruimte een vlk eenduidig vst. Als we dus drie (verschillende) punten P 1 = (x 1, y 1 ), P = (x, y ), P = (x, y ) in het x y-vlk kiezen, is er een eenduidig vlk in R dt de drie punten (x 1, y 1, f(x 1, y 1 )), (x, y, f(x, y )) en (x, y, f(x, y )) bevt. Het idee is, dt we de functie f(x, y) op het driehoek dt door de drie punten P 1, P, P opgespnnen is, door dit vlk benderen. Bij deze methode zou men verwchten dt de bendering lleen mr voor lineire functies exct is. Er is echter een trucje, wrmee zelfs kwdrtische functies nog exct berekend worden, nmelijk door in plts vn de hoekpunten P 1, P, P vn de driehoek de functiewrden in de middelpunten vn de zijden te nemen, dus in de punten 1 (P 1 + P ), 1 (P + P ), 1 (P + P 1 ). Dit lijkt op de rechthoek-regel in het 1-dimensionle gevl, wr we ls gemiddelde functiewrde de functiewrde in het midden nemen. Mr bij een driehoek hebben we drie zijden, dus drie gemiddelde functiewrden op de zijden en het gemiddelde vn deze functiewrden geeft inderdd een goede bendering voor de integrl. Het idee is dus dt we voor een driehoek D met hoekpunten P 1, P, P en oppervlkte opp(d) de integrl vn f(x, y) op D benderen door D f(x, y) da opp(d) (f( P 1 + P ) + f( P + P ) + f( P + P 1 )) en men kn bewijzen dt deze bendering voor kwdrtische functies exct is, d.w.z. voor functies vn de vorm f(x, y) = x + bxy + cy + dx + ey + f. 18

15 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse P P 1 +P D P +P P 1 P P 1 +P We gn dit eens n het voorbeeld vn de driehoek D met hoekpunten P 1 = (, ), P = (1, ) en P = (, 1) en de functie f(x, y) := xy checken. Er geldt opp(d) = 1, f(p 1+P ) = f( 1, ) =, f(p +P ) = f( 1, 1 ) = 1 4, f(p +P 1 ) = f(, 1 ) =, dus geeft de bendering het resultt D f(x, y) da = 1 4. An de ndere knt geeft de expliciete integrtie x xy dy dx = = 1 ( 1 xy 1 x ) dx = 1 x(1 x) dx (x x + x ) dx = 1 (1 x x x4 ) 1 = 1 ( ) = = 1 4. Op een soortgelijke mnier gt men n dt de bendering ook voor de functies f(x, y) = x en f(x, y) = y exct is. Verder komt men vn de specile driehoek D tot een willekeurige driehoek door een verschuiving en een lineire trnsformtie en men ziet dt bij deze trnsformties de integrl en de bendering op dezelfde mnier vernderen. Dit is voldoende om te lten zien dt de benderingsformule inderdd voor kwdrtische veeltermen exct is. Als we nu over een rechthoek willen integreren, is het ntuurlijk enigszins voor de hnd liggend, de rechthoek in twee driehoeken te delen, en de formule voor driehoeken op deze twee driehoeken toe te pssen. Als men dit doet, gebeurt er iets soortgelijks ls bij de Simpson-regel, nmelijk er vllen derdegrds-termen tegen elkr weg en deze bendering is zelfs nog voor kubische functies f(x, y) exct. Voor de rechthoek R = [, b] [c, d] krijgt men zo de bendering ( (b )(d c) f(x, y) da f( + b + b, c) + f( R 6, d) + f(, c + d ) + f(b, c + d ) + f( + b, c + d ) ). 19

16 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse y d c b x Dt deze bendering inderdd voor derdegrds-veeltermen in x en y werkt, ziet men bijvoorbeeld door nrekenen voor de functies f(x, y) = x, x y, xy, y op de vierknt [, 1] [, 1]. Verschuiving en schling mkt ook hier geen verschil in de geldigheid vn de formule. Ook in het meerdimensionle gevl worden in de prktijk vk dptieve methoden gebruikt. Men begint met een redelijk grove onderverdeling vn het gebied in driehoeken (een zogeheten tringultie) en verfijnd deze op gebieden wr een verfijning nog fwijkingen boven de gewenste nuwkeurigheid oplevert. Methoden ls deze vllen onder het begrip vn eindige elementen methoden. 9.4 Monte-Crlo methoden Voorl in de numerieke integrtie vn functies met meerdere vribelen worden inmiddels vk methoden toegepst die een toevlsgenertor gebruiken. Het idee hierbij is simpel: Als x 1, x,... toevllig volgens een uniforme verdeling op het intervl [, b] gekozen worden, dn is het gemiddelde 1 N N f(x i) een redelijke fschtting voor de gemiddelde functiewrde vn f(x) op het intervl [, b] en men krijgt zo de bendering (b ) f(x 1) f(x n ) N = b N f(x i ). De convergentie vn deze methode is voor functies vn een vribel niet erg goed, hier zijn ndere methoden meestl beter. Mr hetzelfde idee lt zich ook op functies vn meerdere vernderlijken toepssen. Hierbij hoeft het gebied wrover geïntegreerd wordt niet eens een verlgemeend rechthoek te zijn. Het enige wt nodig is om de integrl f(x 1,..., x n ) da B te benderen, zijn grenzen voor de enkele coördinten, dus i, b i zo dt i x i b i voor lle (x 1,..., x n ) B. Dit betekent dt het gebied B door een verlgemeend rechthoek R := [ 1, b 1 ]... [ n, b n ] ingesloten wordt. Vervolgens moet er nog een toets zijn die zegt of een punt X = (x 1,..., x n ) R in B ligt of niet. Bij een kogel vn strl r is dit bijvoorbeeld gewoon de test, of 1

17 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse x x n r. Vervolgens worden toevllig punten X R geproduceerd door elke coördint toevllig volgens een uniforme verdeling uit het intervl [ i, b i ] te kiezen. Als X B is, wordt f(x) berekent, over deze functiewrden wordt gemiddeld en het gemiddelde met het (n-dimensionle) volume vn B vermenigvuldigd. Belngrijke begrippen in deze les roosterpunten rechthoek-regel trpezium-regel Keplers vtregel Simpson-regel Guss-Legendre-methode Opgven 41. Bereken de integrl π e sin(x) dx met behulp vn de trpezium-regel. Gebruik hierbij eerst een onderverdeling in deelintervllen vn lengte x = π (dus 4 deelintervllen) en dn deelintervllen vn lengte x = π 4 (dus 8 deelintervllen). 4. Zij f(x) := sin(x) x, dn kunnen we de integrl over f(x) niet door een primitieve zonder integrl schrijven. Voor x = heeft f(x) de wrde 1 en de kleinste nulpunt wordt in x = π bereikt. Bender de integrl I := π f(x) dx met een foutmrge vn hoogstens.1%: (i) Gebruik de trpezium-regel met een geschikte onderverdeling in N delen. Hoe groot moet N zijn om de gewenste nuwkeurigheid te bereiken? (ii) Gebruik de Simpson-regel met een geschikte onderverdeling. Hoe groot moet N nu zijn? (iii) Gebruik de Guss-Legendre methode met N =. Is hierbij überhupt een onderverdeling nodig om de nuwkeurigheid te bereiken? Je hoeft de foutmrge niet strikt te bewijzen, mr de nuwkeurigheid moet uit de berekeningen plusibel blijken. 4. We bekijken de -dimensionle stndrdnormlverdeling f(x, y) := 1 π e 1 (x +y ). De vierknt R := {(x, y) x 1, y 1} is de verzmeling vn punten in het vlk, wrvoor beide coördinten binnen de stndrdfwijking vn de 1- dimensionle normlverdeling liggen. Om de kns te berekenen dt een uitkomst bij een -dimensionle normlverdeling in dit gebied ligt, moeten we de integrl I := f(x, y) da benderen. R 11

18 Wiskunde voor kunstmtige intelligentie, 4 Deel I. Voortgezette Anlyse (i) Bereken I door de trpezium-regel op beide coördinten toe te pssen. Gebruik hiervoor eerst een onderverdeling vn de intervllen [, 1] in deelintervllen en dn een onderverdeling in 4 deelintervllen. (ii) Bereken I door de Simpson-regel op beide coördinten toe te pssen. Gebruik hiervoor dezelfde onderverdelingen ls in deel (i). (iii) Bereken I door de Guss-Legendre methode met N = op beide coördinten toe te pssen. Doe dit eerst voor de volledige vierknt R en dn op de vier deelvierknten in die R door de x-s en de y-s onderverdeelt wordt. 1