Kastheorie 2de bachelor wiskude Vrije Uiversiteit Brussel U. Eimahl Academiejaar 208/209
Ihoudsopgave Kasruimte. Toevallige experimete..................................2 De axioma s va Kolmogorov............................. 2.3 Eidige kasruimte................................... 5.4 Voorwaardelijke kas.................................. 7.5 Oafhakelijke gebeurteisse............................. 9 2 Toevalsvariabele e verdelige 3 2. Klasse va verzamelige............................... 3 2.2 Meetbare afbeeldige.................................. 5 2.3 Toevalsvariabele..................................... 6 2.4 Discrete toevalsvariabele................................ 8 2.5 Absoluut cotiue verdelige............................. 9 3 Toevalsvectore e verdelige 25 3. Gezamelijke e margiale verdeligsfucties.................... 25 3.2 Discrete verdelige................................... 26 3.3 Toevalsvariabele met ee gezamelijk cotiue verdelig............ 28 3.4 Oafhakelijke toevalsvariabele........................... 3 3.5 De k-dimesioale ormaalverdelig......................... 33 3.6 Somme va oafhakelijke toevalsvariabele.................... 36 3.7 Coditioele verdelige................................ 39 4 Verwachtigswaarde 42 4. Defiitie e eigeschappe............................... 42 4.2 Variatie, covariatie e momet-geererede fucties.............. 52 4.3 Coditioele verwachtigswaarde.......................... 58 4.4 Verwachtigswaarde e itegrale.......................... 60 5 Ekele belagrijke limietstellige 6 5. De zwakke wet va de grote getalle......................... 6 5.2 De sterke wet va de grote getalle.......................... 64 5.3 De cetrale limietstellig................................ 66 0
Hoofdstuk Kasruimte. Toevallige experimete Ee toevallig experimet is ee experimet waar me de uitkomst iet volledig ka voorspelle. Voorbeelde. Het werpe va ee mutstuk met de mogelijke uitkomste: (K) kop, (M) mut. 2. Het werpe va ee dobbelstee met de mogelijke uitkomste (aatal oge):, 2, 3, 4, 5, 6. 3. Het istallere va ee gloeilamp. Me weet iet hoe lag deze zal houde. De leeftijd T va de gloeilamp hagt af va het toeval: T ]0, [. 4. Het volgede experimet waar we ee bol i ee vacuüm late valle e we wille wete hoe lag het duurt tot dat deze de grod bereikt is gee toevallig experimet, omdat we uit de atuurkude precies wete hoe lag dit duurt. (We veroderstelle hier atuurlijk dat we de (iitiële) afstad va de bol tot de grod kee.) Gegeve ee toevallig experimet, otere we de verzamelig va de mogelijke uitkomste altijd met Ω. We oeme deze de uitkomsteverzamelig (of sample space) va het experimet. Verder kieze we voor elk experimet ee klasse va deelverzamelige va Ω die we met F otere. De verzamelige i F hete de gebeurteisse. Als Ω te hoogste aftelbaar is, kue we F = 2 Ω (al de deelverzamelige va Ω) stelle, maar i het algemee is dit iet mogelijk. Voorbeelde:. Het werpe va twee mutstukke: Da is Ω = {(K, K), (K, M), (M, K), (M, M)}. De gebeurteis keer kop, keer mut wordt voorgesteld door de verzamelig A = {(K, M), (M, K)}. 2. Het werpe va ee dobbelstee: Da is het evidet dat Ω = {,..., 6} e de verzamelig A = {2, 4, 6} is de gebeurteis dat het aatal oge eve is.
HOOFDSTUK. KANSRUIMTEN 2 Ee kas is ee afbeeldig va F aar [0, ] die met elke gebeurteis A zij kas P(A) associeert. De vraag is u hoe me dit op ee wiskudige maier ka defiiëre. Uitgaade va de ituïtie, is de volgede defiitie via relatieve frequeties voor de had ligged: Veroderstel dat me ee bepaald experimet ka herhale zodat de uitkomste oafhakelijk va elkaar zij. Stel A = het aatal va de eerste experimete met ee uitkomst i A. Da ka me verwachte dat de relatieve frequeties A / covergere e de limiet gelijk aa P(A), de kas op A is. Hoewel dit klopt, kue we daarop gee theorie basere omdat we iet precies wete wat oafhakelijk va elkaar beteket. Er bestaat echter ee axiomatische defiitie va het begrip kas zodat we exact kue defiiëre wat oafhakelijkheid beteket. I dit kader kue we da bepaalde limietstellige bewijze. Ee va deze stellige, de sterke wet va de grote getalle, impliceert da dat voor elke gebeurteis A F de relatieve frequeties A / aar P(A) covergere..2 De axioma s va Kolmogorov Zij Ω ee iet-lege verzamelig. Defiitie. Ee klasse F va deelverzamelige va Ω heet ee σ-algebra op Ω als F voldoet aa de volgede drie voorwaarde: (i) Ω F. (ii) A F A c = Ω A F. (iii) A F, = A F. Eigeschappe: Als F ee σ-algebra is, geldt:. F. (Dit is triviaal weges = Ω c.) 2. A,..., A m F m j= A j F. (Stel A j =, j m + e gebruik (iii).) 3. A,..., A m F m j= A j F. (Dit is evidet weges m j= A j = ( m j= A c j )c, (ii) e (2).) 4. A F, = A F. (Aaloog argumet als i (3).) 5. A, B F A B F e A B F, waar A B = (A B) (B A) het symmetrische verschil va de twee gebeurteisse A, B is. (Dit beteket dat precies éé va de twee gebeurteisse optreedt.) Om (5) te bewijze otere we dat A B = A B c weges (ii) e (3) i F zit. Eigeschap (2) impliceert da ook A B F. Opmerkig: Uit het bovestaade blijkt dat verzamelige die me a ee aftelbaar aatal operaties zoals,,, c uit F ka verkrijge, og tot F behore. Dit is i het algemee fout, als me meer da aftelbaar veel operaties gebruikt.
HOOFDSTUK. KANSRUIMTEN 3 Defiitie.2 Zij F ee σ-algebra op Ω. (i) Ee afbeeldig P F [0, ] wordt ee kas (of kasmaat) geoemd idie (a) P(Ω) = (b) A F, (paarsgewijs) disjuct (dwz, A A m =, m) P( = A ) = = P(A ). (σ-additiviteit) (ii) Ee kasruimte is ee drietal (Ω, F, P) bestaade uit ee verzamelig Ω, ee σ-algebra F op Ω e ee kas P. Ekele eigeschappe va kasmate:. P( ) = 0. (Stel A =,. Da geldt: P(A ) = P( = A ) = = P(A ), wat atuurlijk impliceert: 0 = =2 P(A ) = P( =2 A ) = P( ).) 2. (additiviteit) A,..., A m F disjuct, P( m i= A i ) = m i= P(A i ). (Beschouw de rij A,..., A m,,,... e gebruik () i verbad met de σ-additiviteit va P.) 3. A F P(A c ) = P(A). ( = P(Ω) = P(A A c ) = P(A) + P(A c ).) 4. A, B F e A B P(A) P(B). (Gebruik het feit dat B = A (B A) e de additiviteit va P.) Verder hebbe we: 5. A, B F P(A B) = P(A) + P(B) P(A B). 6. Als A,..., A m F, waar m 2, da geldt er: P( m i= A i) m i= P(A i ). 7. Als A,..., A m F, waar m 3, da geldt ook: P( m A i ) = i= m r= ( Formule va het i- e uitsluite ) ( ) r+ i <...<i r m P( r A ij ). j= We bewijze (5). Eigeschappe (6) e (7) volge da via volledige iductie (oefeig). Gezie A B = A (B A), waar de twee laatste gebeurteisse disjuct zij, geldt P(A B) = P(A)+P(B A). Verder is B gelijk aa de uie va de twee disjucte gebeurteisse B A e A B e dus geldt: P(B) = P(B A)+P(A B) of P(B A) = P(B) P(A B), wat i verbad met de bovestaade formule voor P(A B) eigeschap (5) impliceert. Defiitie.3 Ee rij va verzamelige A, heet stijged (Notatie: A ) idie geldt: A A 2 A 3... Aaloog oeme we e rij A, daled idie A A 2 A 3... (Notatie: A ) I beide gevalle zegge we dat de rij mootoo is. Verder defiiëre we: lim A = { = A als A = A als A
HOOFDSTUK. KANSRUIMTEN 4 Stellig. (Kasmate zij cotiu va beede e bove) Zij P ee kas op ee σ-algebra F e zij A, ee mootoe rij i F. Da geldt als, P(A ) P( lim A ). Bewijs. (i) (P is cotiu va beede) Dus zij A e stel A = = A. Da zij de gebeurteisse B = A, B = A A, 2 disjuct e bovedie geldt: i= Dus volgt uit de σ-additiviteit va P, P(A) = P( B i ) = i= B i = A, i= i= B i = A,. P(B i ) = lim i= P(B i ) = lim P(A ). (ii) (P is cotiu va bove.) Zij C e stel C = = C. Da geldt atuurlijk A = C c e lim A = C c = ( C ) c = C c. Dus volgt uit deel (i) dat P(C ) = P(C c ) P(C c ) = P(C) e bijgevolg P(C ) P(C) als. Als eerste toepassig va stellig., otere we dat kasmate σ-subadditief zij, dwz A F, P( A ) = = P(A ). (.) Dit volgt direct via eigeschap 6 va kasmate, omdat m= A = A als. Zoals voor rije reële getalle, bestaa ook ee limes iferior e i limes superior voor rije va gebeurteisse. Deze zij zoals volgt gedefiieerd: Defiitie.4 Zij A, ee rij i F. Da stelle we e lim if A = lim sup A = = k= = k= (lim if A k = {ω Ω w A uiteidelijk} A k = {ω Ω ω A oeidig vaak}. Het is evidet dat lim if A lim sup A e beide verzamelige zitte i F. Verder geldt er c A ) e aaloog = lim sup A c c (lim sup A ) = lim if A c. Uit bovestaade defiitie volgt verder dat k= A k lim if A e k= A k lim sup A, hetgee via stellig. impliceert dat P(lim if A ) = lim P( A k ) k=
HOOFDSTUK. KANSRUIMTEN 5 e P(lim sup A ) = lim P( A k ). k= Het volgede bija triviale lemma zal i het vervolg zeer uttig zij. Lemma. (Borel-Catelli, deel ) Zij A ee rij gebeurteisse zodaig dat = P(A ) <. Da geldt er: P(lim sup A ) = 0. Bewijs Weges de σ-subadditiviteit va P hebbe we: P(lim sup A ) = lim P( k= A k ) lim sup k= P(A k ). Deze laatste lim sup is gelijk aa 0 omdat k= P(A k ) aar 0 covergeert als aagezie de reeks = P(A ) coverget is..3 Eidige kasruimte Veroderstel dat Ω eidig is met N elemete ω,..., ω N. Zij p i ]0, ], i N zodaig dat i p i =. Da is P(A) = p i = i ω i A N i= p i I A (ω i ), A Ω ee kas op F = 2 Ω. We defiiëre voor elke verzamelig A Ω I A (ω) = { als ω A 0 als ω A c e we oeme I A de idicatorfuctie va A. Als al de uitkomste ω,..., ω N dezelfde kas hebbe, verkrijge we ee uiforme kasruimte. I dit geval geldt: = P(Ω) = N i= P({ω i }) = NP({ω }) e bijgevolg P({ω }) = P({ω i }) = p i = /N, 2 i N e het is evidet dat P(A) = #A/#Ω, waar #B het aatal elemete va de verzamelig B beteket. We kue da al de kase via de combiatoriek berekee. Voorbeelde () I ee doos zitte 0 balle waarop ummers va t/m 0 staa. We trekke 2 balle e otere de ummers. Wat is de kas dat het verschil tusse de twee getrokke ummers temiste 2 is, als we (a) de eerste getrokke bal weer teruglegge samplig with replacemet ), (b) iet teruglegge samplig without replacemet )? Oplossig. (a) Stel Ω a = {,..., 0} 2 (= alle pare (i, j) met i, j {,..., 0} e zij P a de uiforme verdelig op Ω a. Da geldt #Ω a = 00 e als we A = {(i, j) Ω a i j 2} stelle, geldt A c = {(i, i) i 0} {(, 2), (2, ), (2, 3),..., (9, 8), (9, 0), (0, 9)} e dus heeft A c 0 + 8 elemete hetgee impliceert dat P a (A c ) = 0, 28 e bijgevolg P a (A) = 0, 72.
HOOFDSTUK. KANSRUIMTEN 6 (b) Stel Ω b = {(i, j) {,..., 0} 2 i /= j} e zij P b de uiforme verdelig op Ω b. Da heeft Ω b 90 elemete e verder geldt als we B gelijk aa {(i, j) Ω b i j 2} stelle, #B c = 8 e dus P b (B) = 72/90 = 0, 8. (2) (Het verjaardageprobleem) Wat is de kas dat i ee groep va m persoe alle ee verschillede verjaardag hebbe? Oderstel dat alle dage va het jaar eve waarschijlijk zij (iemad jarig op 29 februari is), e dat er gee verbad tusse de verjaardage va deze persoe bestaat. (Als er ee tweelig is, mag maar éé va hu meedoe). Oplossig. Stel Ω m = {,..., 365} m. (Als m = 3 beteket bv (25, 9, 33) dat de eerste persoo jarig is op 25 jauari, de tweede op 29 april e de derde op 2 februari.) Oze voorwaarde zij zo dat we va ee uiforme kasruimte kue uitgaa. De gebeurteis m verschillede verjaardage wordt voorgesteld door A m = {(i,..., i m ) Ω m i j /= i k, j /= k}. Dus is de gezochte kas gelijk aa #A m /#Ω m = 365... (365 m + )/365 m = Deze kas is kleier da /2 zodra m 23. m j= ( j/365). (3) (Het otmoetigsprobleem.) N pare gaa aar ee feest waar gedast wordt. De gastheer vraagt zowel de mae als de vrouwe ummers te trekke. Elke vrouw dast met de ma die ee idetiek ummer heeft. Wat is de kas dat (a) gee ekel paar same blijft e (b) precies k pare same blijve? Oplossig. Stel Ω = alle permutaties va,..., N, waar de permutatie (j,..., j N ) beteket dat de vrouw die het ummer i heeft getrokke met de ma va de vrouw dast die het ummer j i heeft getrokke, i N. (a) Stel verder A i = {de vrouw met het ummer i dast met haar ma}, i N. Da geldt: P( N j= A j ) = P(temiste ee paar blijft same) = P(gee paar blijft same). We veroderstelle dat elke permutatie eve waarschijlijk is. Da is het evidet dat P(A i ) = #{(j,..., j N ) Ω j i = i}/n! = (N )!/N! = /N, i N e algemee voor i <... < i r e r 2 P( r k= A ik ) = (N r)!/n!, hetgee via de formule va het i- e uitsluite impliceert: P( N A i ) = i= We kue u cocludere dat N r= ( ) r+ ( N r ) (N r)! N! = N r= ( ) r+ r!. P(gee paar blijft same) = N r=0 ( ) r r!. De laatste som kue we voor N 5 door e = r=0( ) r /r! = 0, 36775... beadere. Dus is de bovestaade kas mi of meer oafhakelijk va N (als N 5). (b) Uit deel (a) wete we dat het aatal permutaties (j,..., j m ) va (,..., m) zodaig dat j i i, i m gelijk is aa m m! r=0( ) r (m 2) r!
HOOFDSTUK. KANSRUIMTEN 7 e het is evidet dat voor k < N geldt: P(k pare blijve same) = #{A {,..., N} #A = k} #{permutaties va (,..., N k) zodat j i /= i, i N k}/n! = ( N k ) N! (N k)! N k r=0 ( ) r r! = k! N k r=0 ( ) r r!. Deze formule klopt ook als k = N. (I dit geval is de kas gelijk aa /N!) Ee beaderig va de bovestaade kas als k klei e N groot is, is e /k!..4 Voorwaardelijke kas Om de defiitie te motivere bekijke we eerst ee eevoudig Voorbeeld. Werp ee dobbelstee. Da is de kas dat we ee 2 verkrijge gelijk aa /6. Veroderstel u dat we al over de iformatie beschikke dat het aatal oge eve is. I dit geval kue we de origiele uitkomsteverzamelig Ω = {,..., 6} vervage door {2, 4, 6} e de voorwaardelijke (of coditioele) kas op 2, gegeve dat het aatal oge eve is, is gelijk aa /3. Om de juiste defiitie te vide, veroderstelle we weer dat me ee gegeve toevalsexperimet ka herhale zodat al de uitkomste oafhakelijk va elkaar zij. Om de kas op e gebeurteis B oder de voorwaarde dat ee adere gebeurteis A is opgetrede, te berekee, beschouwe we de gewijzigde relatieve frequeties A B / A, waar weer C het aatal va de eerste experimete met ee uitkomst i C is. Als P(A) > 0 is, covergere deze frequeties aar P(A B)/P(A) e het is dus voor de had ligged dat we de voorwaardelijke kas op B gegeve A zo gaa defiiëre. Defiitie.5 Zij (Ω, F, P) ee kasruimte e A F ee gebeurteis met P(A) > 0. Da defiiëre we voor elke gebeurteis B F de voorwaardelijke kas op B, gegeve (dat de gebeurteis) A (is opgetrede) door P(A B)/P(A). Notatie: P(B A). De volgede stellig is soms hadig om voorwaardelijke kase te berekee. Stellig.2 Zij (Ω, F, P) ee kasruimte, A F ee gebeurteis zodaig dat P(A) > 0. Da is P( A) F [0, ] ee kasmaat. Bewijs. We otere eerst dat P(Ω A) = P(Ω A)/P(A) = P(A)/P(A) =. Verder is B A, ee rij disjucte gebeurteisse als de gebeurteisse B, disjuct zij. Dus geldt: P( = B A) = P( (B A))/P(A) = = e het is duidelijk dat P( A) ee kas is. = P(B A)/P(A) = = P(B A) Voorbeeld. Veroderstel dat er eve veel meisjes als joges gebore worde. Wat is da de voorwaardelijke kas dat i ee gezi met twee kidere er zowel ee joge als ee meisje
HOOFDSTUK. KANSRUIMTEN 8 is, als (a) het oudste kid ee joge is, (b) er temiste éé va de twee ee joge is? Oplossig. Stel Ω = {(J, J), (J, M), (M, J), (M, M)} waar bv (M, J) beteket dat het oudste kid ee meisje is e het jogste ee joge. Stel B = {(J, M), (M, J)} de gebeurteis dat er zowel ee joge als ee meisje is. I (a) hebbe we de iformatie A = {(J, J), (J, M)} e bijgevolg: P(B A) = /2. I (b) stelle we A = {(J, M), (M, J), (J, J)} e dus geldt P(B A) = 2/3. I het vorige voorbeeld hebbe we de voorwaardelijke kas via de gewoe kase bereked. Er zij echter meer toepassige waar me voorwaardelijke kase gebruikt om gewoe kase te berekee. De twee volgede stellige zij daarvoor heel hadig. Stellig.3 (Kettigregel) Zij (Ω, F, P) ee kasruimte e A,..., A F ( 2) gebeurteisse zodaig dat P(A... A ) > 0. Da geldt: Bewijs. via iductie. P(A... A ) = P(A )P(A 2 A )... P(A A... A ). Voorbeeld. I ee doos zitte 0 balle, waarva éé blauw is. De adere balle zij rood. We vrage ee groep va 0 persoe dat iederee e bal trekt (zoder teruglegge). De persoo die de blauwe bal trekt wit ee prijs. Wat is de beste strategie? Is het ee goed idee als eerste te trekke, of is het beter ee beetje te wachte? Oplossig. We bewijze via iductie dat iederee de gelijke kas heeft de blauwe bal te trekke. (Dus ook de laatste persoo.) Stel A i = {persoo i trekt de blauwe bal}, i 0. Da is het evidet dat P(A ) = /0. Veroderstel u dat P(A ) =... = P(A m ) = /0, waar 2 m < 0. Da volgt weges A m A c j, j /= m, P(A m) = P(A m m j= A c j ) e dus P(A m ) = P( m j= A c j)p(a m m j= A c j) = ( P( m j= A j )) 0 m +. Vermits de gebeurteisse A,..., A m disjuct zij, volgt dat P( m j= A j ) = (m )/0 e we zie dat P(A m ) = /0. Stellig.4 (Wet va de totale kas) Zij (Ω, F, P) ee kasruimte e zij A i F, i I ee partitie va Ω. Veroderstel dat P(A i ) > 0, i I. Da is I te hoogste aftelbaar e voor elke gebeurteis B F geldt: P(B) = P(B A i )P(A i ). i I Bewijs. We toe eerst aa dat I te hoogste aftelbaar is. Stel I m = {i I P(A i ) /m}, m. Da geldt #I m m omdat we aders idices i,..., i m+ kode vide zodat P(A ij ) /m, j m +. Maar da was P(Ω) P( m+ j= A ij ) = m+ j= P(A ij ) + /m, wat atuurlijk iet ka. Dus is I = m= I m als ee aftelbare uie va eidige verzamelige te hoogste aftelbaar. Het is evidet dat B = (B A i ), i I
HOOFDSTUK. KANSRUIMTEN 9 waar de gebeurteisse B A i, i I disjuct zij. Gezie I te hoogste aftelbaar is, volgt: e de stellig is beweze. P(B) = i I P(B A i ) = P(B A i )P(A i ) i I Voorbeeld. A werpt 3 mutstukke e Ja werpt 2 mutstukke. A krijgt 0 Euro va Ja als haar aatal kop groter is da het aatal kop va Ja. Aders wit Ja 0 Euro. Is dit ee goed spel voor A? Oplossig. Zij B de gebeurteis dat A wit e stel voor i = 0,, 2, A i = {Ja heeft i-keer kop geworpe} Da geldt: P(B) = P(B A 0 )P(A 0 ) + P(B A )P(A ) + P(B A 2 )P(A 2 ), waar P(A 0 ) = P(A 2 ) = /4, P(A ) = /2. Zij verder K i de gebeurteis dat A i-keer kop heeft geworpe, 0 i 2. Da geldt P(K 0 ) = P(K 3 ) = /8, P(K ) = P(K 2 ) = 3/8 e dus P(B A 0 ) = P(K ) + P(K 2 ) + P(K 3 ) = 7/8. Aaloog volgt dat P(B A ) = /2 e P(B A 2 ) = /8 e we zie dat P(B) = /2. Dus is het ee fair spel. De volgede stellig is ee omiddellijk gevolg va de wet va de totale kas. Stellig.5 (De regel va Bayes) Zij (Ω, F, P) ee kasruimte e zij A i F, i I ee partitie va Ω, waar P(A i ) > 0, i I. Da geldt voor i 0 I: P(A i0 B) = P(B A i 0 )P(A i0 ) i I P(B A i )P(A i ) Voorbeeld (Betrouwbare medische teste) Ee medisch test voor ee bepaalde ziekte is positief i 99% va de gevalle waar de patiët deze ziekte heeft. Maar hij geeft ook ee vals positief resultaat i % va de gevalle waar de patiët gezod is. Veroderstel dat 0,5% va de bevolkig aa deze ziekte lijdt. Wat is de kas dat ee patiët ziek is als de test positief is? Oplossig. Zij B de gebeurteis dat de test positief is e A de gebeurteis dat de patiët ziek is. Da geldt: P(B A) = 0, 99, P(B A c ) = 0, 0, P(A) = 0, 005 wat impliceert dat P(A B) = (0, 99) (0, 005) (0, 99) (0, 005) + (0, 0) (0, 995) = 495 495 + 995 = 99 298 < 3. Dus is i dit geval de kas og relatief klei dat de patiët aa deze ziekte lijdt, hoewel het atuurlijk ee dramatisch verschil i vergelijkig met de origiele kas va 0,005 is..5 Oafhakelijke gebeurteisse Zij (Ω, F, P) ee kasruimte e A, B gebeurteisse met P(A), P(B) > 0. We zegge dat A oafhakelijk va B is als de voorwaardelijke kas op A, gegeve B gelijk aa de origiele kas op A is. Dus, de iformatie dat B gebeurd is vertelt os iets over de kas op A die wij
HOOFDSTUK. KANSRUIMTEN 0 daarom iet kue wijzige. Als we de defiitie va voorwaardelijke kas gebruike, zie we omiddellijk dat P(A B) = P(A) impliceert dat P(A B) = P(A)P(B). Maar dit beteket ook dat P(B A) = P(B). Dus is A oafhakelijk va B hetzelfde als B oafhakelijk va A e we zegge gewoo dat de twee gebeurteisse A e B oafhakelijk zij. Formeel defiiëre we ook voor gebeurteisse waar de kas gelijk aa 0 mag zij: Defiitie.6 Twee gebeurteisse A, B F hete oafhakelijk idie P(A B) = P(A)P(B). Opmerkige. Als A ee gebeurteis met P(A) {0, } e B F ee willekeurige gebeurteis is, da zij A e B oafhakelijk. 2. Zij A, B F zodaig dat A B e 0 < P(A) P(B) <. Da zij A e B afhakelijk (= iet oafhakelijk). Dit is evidet omdat i dit geval P(B A) =. 3. Zij A, B F disjucte iet-triviale gebeurteisse (dwz met kas ]0, [). Da zij A, B weer afhakelijk. (Als we wete dat A gebeurd is, wete we zeker dat B iet gebeurd is. Dus kue deze twee gebeurteisse iet oafhakelijk zij.) 4. We cocludere dat als A, B iet-triviale, oafhakelijke gebeurteisse zij, ze iet disjuct moge zij e gee va de twee mag de adere omvatte. Voorbeeld. Werp twee keer ee dobbelstee e beschouw de gebeurteisse A = {som va de oge = 7}, B = {som va de oge = 6}, C = {ee drie de eerste keer}. Als we veroderstelle dat al de uitkomste (i, j) {,..., 6} 2 eve waarschijlijk zij, volgt dat P(A) = /6, P(B) = 5/36, P(C) = /6. Gezie P(A C) = P{(3, 4)} = /36 volgt dat A e C oafhakelijk zij. Maar B e C zij afhakelijk. Stellig.6 Zij A, B oafhakelijke gebeurteisse. Da geldt: (i) A e B c zij oafhakelijk. (ii) A c e B zij oafhakelijk. (iii) A c e B c zij oafhakelijk. Bewijs. Het is voldoede (i) te bewijze. ((ii) is equivalet met (i), e (iii) volgt a twee opeevolgede toepassige va (i).) Gezie A de uie va de twee disjucte gebeurteisse A B e A B c is, volgt omiddellijk: P(A B c ) = P(A) P(A B), hetgee weges de oafhakelijkheid va A e B gelijk is aa P(A) P(A)P(B) = P(A)( P(B)) = P(A)P(B c ), e de stellig is beweze. We bekijke u gebeurteisse A i, i I, waar de idexverzamelig I iet oodzakelijk aftelbaar is.
HOOFDSTUK. KANSRUIMTEN Defiitie.7 Zij A i F, i I ee klasse gebeurteisse, waar I ee verzamelig is. (i) A i, i I heet oafhakelijk idie voor elke eidige deelverzamelig {i,..., i r } I, r 2 geldt: P( r A ij ) = j= r j= (ii) A i, i I heet paarsgewijs oafhakelijk idie P(A ij ). P(A i A i2 ) = P(A i )P(A i2 ), i /= i 2, i, i 2 I. Opmerkig Het is triviaal dat geldt (i) (ii). Het volgede elemetaire voorbeeld toot dat de omgekeerde implicatie i het algemee iet klopt. Voorbeeld Werp twee keer ee dobbelstee e bekijk de gebeurteisse A = {som va de oge = 7}, B = {ee drie de eerste keer}, C = {ee vier de tweede keer} We hebbe al eerder beweze dat A e B oafhakelijk zij. Hetzelfde argumet toot aa dat A e C oafhakelijk zij. Het is ook evidet dat B e C oafhakelijk zij. Dus zij deze gebeurteisse paarsgewijs oafhakelijk. Ze zij iet oafhakelijk omdat A B C wat impliceert dat A e B C afhakelijk zij. Maar als drie gebeurteisse A, B, C oafhakelijk zij, da moete ook de twee gebeurteisse A, B C oafhakelijk zij. Stellig.7 Zij A i, i I ee klasse oafhakelijke gebeurteisse e I j, j J disjucte deelverzamelige va I. Als we voor elke j ee gebeurteis B j uit de klasse B j - de gebeurteisse die uit A i, i I j verkrijgbaar zij (waar me te hoogste aftelbaar veel operaties zoals,,, c gebruikt)- kiest, da zij de gebeurteisse B j, j J oafhakelijk. Bewijs via oafhakelijkheid va σ-algebra s (zie maattheorie, bachelor 3). I 2. zulle we reeds de precieze wiskudige defiitie va B j geve. Natuurlijk impliceert stellig.7 stellig.6. Voorbeelde. Als A, oafhakelijke gebeurteisse zij, da zij ook de gebeurteisse A, A 2 A 5, A 3 A 0, =5 A 2+ oafhakelijk. 2. A, B, C oafhakelijk A, B C oafhakelijk. (Oefeig: Geef ee direct bewijs.) Defiitie.8 Ee experimet met twee mogelijke uitkomste waarva me éé succes (e de adere mislukkig ) oemt, heet ee Beroulli(p)-experimet als de kas op succes p is. Probleem Veroderstel dat me ee bepaald Beroulli(p)-experimet keer ka uitvoere zodat de gebeurteisse A i = {i-de experimet succes}, i oafhakelijk zij. Wat is da de kas dat er precies k successe zij (0 k )? Oplossig Zij B k de gebeurteis dat er precies k successe zij. Da is het evidet dat P(B 0 ) = P( A c i) = i= i= P(A c i) = ( p).
HOOFDSTUK. KANSRUIMTEN 2 Aaloog volgt dat Als k, da geldt P(B ) = p. B k = ( A i A c i). K {,...,} i K i K c #K=k Uit stellig.7 volgt dat de gebeurteisse A i, i K, A c i, i / K oafhakelijk zij e dus geldt P( A i A c i) = p k ( p) k als #K = k. i K i K c Vermits de gebeurteisse A i A c i, K {,..., } disjuct zij, volgt dat i K i K c P(B k ) = #{K {,..., } #K = k}p k ( p) k = ( k ) pk ( p) k, k, wat ook juist is als k {0, }. Voorbeeld Werp ee dobbelstee 5 keer. Wat is de kas op (a) mistes 2 keer 5, (b) precies 3 keer ee eve getal? Oplossig (a) I dit geval gaat het om ee Beroulli(/6)-experimet. Dus is de kas i (a) gelijk aa P{gee 5} P{éé 5} = (5/6) 5 5(/6)(5/6) 4 = 0, 962.. (b) Nu is de kas op succes gelijk aa /2. Dus: P{3 successe} = ( 5 3 ) 32 = 0, 325. We bewijze og ee omkerig va het Borel-Catelli lemma voor oafhakelijke gebeurteisse. Lemma.2 (Borel-Catelli lemma, deel 2) Zij A, ee rij oafhakelijke gebeurteisse. Veroderstel dat = P(A ) =. Da is P(lim sup A ) =. Bewijs Zij N. Da kue we uit de oafhakelijkheid va de gebeurteisse A k, k N e de triviale ogelijkheid t exp( t), t 0 cocludere: P( N A k ) = P( N A c N k ) = k= k= k= ( P(A k )) exp( N k= P(A k )). Gezie = P(A ) =, volgt voor elke : exp( N k= P(A )) 0 als N. Dus als we B gelijk aa k= A k stelle, geldt er: P(B ) = lim N P( N k= A k ) =. Aagezie B lim sup A e P cotiu va bove is, zie we dat P(lim sup A ) = lim P(B ) =. Opmerkig Omdat er maar twee mogelijkhede zij, de reeks = P(A ) is coverget of diverget, ka de kas P(lim sup A ) allee 0 of zij als de gebeurteisse A oafhakelijk zij. Dit is ee speciaal geval va de 0- wet va Kolmogorov ( maattheorie). Bekijke we de complemete va A zie we dat da ook P(lim if A ) {0, }. Dus hebbe we i dit geval ook ee 0--wet voor lim if A.
Hoofdstuk 2 Toevalsvariabele e verdelige 2. Klasse va verzamelige Stellig 2. Zij Ω ee iet-lege verzamelig e A ee klasse va dele va Ω. Er bestaat ee kleiste σ-algebra op Ω die A bevat. We oeme deze de σ-algebra voortgebracht door de klasse A. Notatie: σ(a). Bewijs Zij K A de klasse va alle σ-algebra s op Ω die A bevatte. (Deze is iet leeg omdat geldt 2 Ω K A.) Stel F 0 = K A = {A Ω A G G K A }. Het is evidet dat F 0 als ee doorsede va σ-algebra s op Ω weer ee σ-algebra op Ω is. Verder volgt uit de defiitie va K A dat F 0 de klasse A bevat. Elke σ-algebra G met deze eigeschap zit i K A. Dus F 0 G e F 0 is de kleiste σ-algebra die A bevat. Opmerkig. We kue u de klasse B j i stellig.7 formeel defiiëre als B j = σ({a i i I j }), j J. Defiitie 2. De k-dimesioale Borel-σ-algebra is de σ-algebra op R k voortgebracht door de ope verzamelige va R k. Notatie: R k e R = R. Naast σ-algebra s hebbe we ook og π-systeme e λ-systeme odig. Defiitie 2.2 Zij Ω ee iet-lege verzamelig. (i) Ee iet-lege klasse P va deelverzamelige va Ω heet π-systeem idie geldt: A, B P A B P. (ii) Ee klasse L va deelverzamelige va Ω heet λ-systeem idie geldt: (i) Ω L, (ii) A L A c L, (iii) A L, disjuct = A L. Opmerkig. Natuurlijk is elke σ-algebra ee λ-systeem, maar de omgekeerde implicatie is i het algemee iet juist. Het bestaat wel het volgede verbad: 3
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 4 Lemma 2. F ee σ-algebra F is zowel ee π-systeem als ee λ-systeem. Bewijs. De implicatie is mi of meer evidet. Voor de implicatie moete we toe A F, A F = Stel B = A, B = A m= A c m, 2. Da geldt atuurlijk B F, (omdat F zowel ee π-systeem als ee λ-systeem is). Bovedie zij deze verzamelige disjuct e dus, = B = = A F. De volgede stellig zal later zeer uttig zij. Stellig 2.2 (π-λ-stellig) Als P ee π-systeem e L ee λ-systeem is, da impliceert: P L, dat ook geldt: σ(p) L. Bewijs. Zij l(p) het kleiste λ-systeem dat P omvat, i.e. l(p) = {G G P, G is ee λ-systeem}. Da geldt atuurlijk, l(p) L e het is voldoede aa te toe dat l(p) = σ(p) (2.) Gezie σ(p) ee σ-algebra e dus ee λ-systeem is dat P omvat, volgt omiddellijk dat Om de adere iclusie te bewijze, toe wij eerst aa: l(p) σ(p) (2.2) l(p) is ee π-systeem (2.3) Zij A Ω e stel Da geldt: G A = {B Ω A B l(p)}. - Als B, disjucte verzamelige uit G A zij, blijft de uie = B i G A. - Als A ee verzamelig uit l(p) is, geldt ook Ω G A. - Verder hebbe we i dit geval voor B G A dat A c B = A c (A B) l(p). Hier hebbe wij het triviale feit gebruikt dat ee λ-systeem ook de eidige disjucte uies va zij elemete omvat. (Hit: λ-systeme omvatte altijd de lege verzamelig.) Dus, A B c = (A c B) c l(p) e bijgevolg B c G A. Uit de bovestaade argumete blijkt u dat A l(p) G A is ee λ-systeem (2.4)
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 5 Als A P, wete we dat A B P l(p) B P (P is ee π-systeem). Bovedie hebbe wij pas aagetood dat G A i dit geval ook ee λ-systeem is e het volgt dat G A l(p), A P. Dit beteket dat A B l(p), A P, B l(p) of (verwissel A e B) De laatste relatie kue we ook als volgt opschrijve, Dit impliceert i verbad met (2.4) A l(p), B P A B l(p) (2.5) A l(p) G A P. (2.6) A l(p) G A l(p). (2.7) Uit de defiitie va G A volgt u dat l(p) iderdaad ee π-systeem is e dus (weges lemma 2.) reeds ee σ-algebra (die P omvat). Gezie σ(p) de kleiste σ-algebra met deze eigeschap is, volgt u ook dat l(p) σ(p), (2.8) wat i verbad met (2.2) relatie (2.) impliceert. 2.2 Meetbare afbeeldige We oeme ee koppel (Ω, F), waar Ω ee iet-lege verzamelig e F ee σ-algebra op Ω is, ee meetbare ruimte. Defiitie 2.3 Veroderstel dat (Ω, F), (Ω, F ) meetbare ruimte zij. (i) Ee afbeeldig T Ω Ω heet F, F -meetbaar idie T A = {ω Ω T (ω) A } F A F (ii) Ee fuctie f Ω R (ee afbeeldig f = (f,..., f k ) Ω R k ) heet F-meetbaar idie deze F, R-meetbaar (F, R k -meetbaar) is. Stellig 2.3 (i) Zij F = σ(a ). Da geldt: T A F A A T is F, F -meetbaar. (ii) Zij T Ω Ω 2 F, F 2 -meetbaar e T 2 Ω 2 Ω 3 F 2, F 3 -meetbaar. Da geldt: T 2 T Ω Ω 3 is F, F 3 -meetbaar. Bewijs (i) Stel S = {A F T A F}. Da is S ee σ-algebra (oefeig) e S A, hetgee impliceert dat S F. Dus is T F, F -meetbaar. (ii) (T 2 T ) (A 3 ) = T (T2 (A 3) ) F, A 3 F 3. F 2 Stellig 2.4 (i) f R k R k 2 cotiu f R k -meetbaar. (ii) f = (f,..., f k ) Ω R k F-meetbaar f i Ω R F-meetbaar, i k.
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 6 (iii) f i Ω R F-meetbaar, i k, g R k R cotiu ω g(f (ω),..., f k (ω)) is F-meetbaar. Bewijs (i) Gezie R k 2 de σ-algebra voortgebracht door de ope verzamelige i R k 2 is, is het voldoede aa te toe dat f G R k G R k 2 ope. Omdat f cotiu is, is f G ope i R k e dus ee k -dimesioale Borelverzamelig is. (ii) We hebbe f i = π i f, waar de projectie π i (x,..., x k ) = x i cotiu e bijgevolg R k -meetbaar is. Dus is f i als ee compositie va meetbare afbeeldige zelf meetbaar. (i =,..., k) We kue elke ope verzamelig i R k opschrijve als ee aftelbare uie va verzamelige uit de klasse A = { k ]a i, b i [ < a i b i <, i k}, i= wat atuurlijk impliceert dat R k = σ(a). Gezie f ( k ]a i, b i [) = k fi (]a i, b i [) F i= i= F volgt uit stellig 2.2.i dat f F-meetbaar is. (iii) Volgt omiddellijk uit (i), (ii) e deel (ii) va stellig 2.2. Voorbeeld Neem twee F-meetbare fucties f, f 2 Ω R F. Da zij fucties zoals f 2, f, f + f 2, f f 2,... weer F-meetbaar. 2.3 Toevalsvariabele Als (Ω, F, P) ee kasruimte is, oeme we de F-meetbare fucties toevalsvariabele e duide ze meestal door hoofdletters zoals X, Y, Z,... aa. We otere de gebeurteisse X A met {X A}, A R. Stellig 2.5 Zij X Ω R ee toevalsvariabele. Da is µ(a) = P{X A}, A R ee kasmaat. We oeme deze de verdelig va X. Notatie: P X Bewijs. Gezie X F-meetbaar is, is µ(a) altijd gedefiieerd voor A R. Verder is het evidet dat {X R} = Ω e bijgevolg µ(r) =. Als A, disjucte Borel-verzamelige zij, da zij de verzamelige {X A } = X (A ), disjucte gebeurteisse i F e het volgt dat µ( A ) = P(X ( A )) = P( X (A )) = = = = Dus is µ ook σ-additief e bijgevolg ee kasmaat. = P(X A ) = = µ(a ).
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 7 Defiitie 2.4 Zij X Ω R ee toevalsvariabele. Da heet de fuctie F (x) = P{X x} = P X (], x]), x R de verdeligsfuctie va X. Stellig 2.6 Zij F (x), x R de verdeligsfuctie va ee toevalsvariabele X Ω R. Da geldt: (i) x F (x) is mootoo iet-daled (ii) F is rechts cotiu (iii) lim x F (x) =, lim x F (x) = 0. (iv) F is cotiu i a P{X = a} = 0. Bewijs (i) x x 2 {X x } {X x 2 }. Gezie P mootoo is (eigeschap (4) va kasmate i.2) volgt dat F (x ) = P{X x } P{X x 2 } = F (x 2 ). (ii) Het is voldoede te bewijze dat geldt: x x F (x ) F (x). I dit geval is {X x } ee dalede rij va gebeurteisse met limiet gelijk aa {X x}. Gezie P cotiu va bove is volgt dat F (x ) = P{X x } P{X x} = F (x). (iii) Aaloog bewijs. (iv) We otere eerst dat x < a, x a impliceert dat F (x ) P{X < a}. (Dit volgt omdat u {X x } ee stijgede rij va gebeurteisse is met limiet {X < a}.) Dus geldt: F (a ) = F (a) P{X = a}. Gezie F rechts cotiu is e dus F (a+) = F (a) is het u evidet dat F cotiu i a is als e slechts als P{X = a} = 0. Opmerkige. Deel (iv) va stellig 2.5 impliceert dat het aatal discotiuïteitspute va F te hoogste aftelbaar is. (Gebruik ee modificatie va het argumet i bewijs va stellig.4.) 2. Uit ee va de hoofdstellige va de maattheorie (de uitbreidigsstellig, zie maattheorie, bachelor 3) volgt dat voor elke fuctie F die aa de drie voorwaarde (i) - (iii) voldoet, er ee kasmaat µ op R bestaat zodat geldt: F (x) = µ(], x]), x R. Bovedie ka me bewijze dat deze kasmaat uiek is. Dus als we wete dat twee toevalsvariabele dezelfde verdeligsfuctie hebbe, kue we cocludere dat hu verdelige overeestemme. We bewijze ee algemeere stellig. Stellig 2.7 (Uiciteitsstellig voor kasmate) Zij Ω ee iet-lege verzamelig e F ee σ-algebra op Ω. Veroderstel dat er ee π-systeem P bestaat zodaig dat F = σ(p). Als Q i F [0, ], i =, 2 kasmate zij zodaig dat Q (A) = Q 2 (A), A P, geldt er dat Q = Q 2. Bewijs. Stel L = {A F Q (A) = Q 2 (A)}. Dit is ee λ-systeem (oef.!) e we hebbe P L. De π-λ-stellig impliceert da dat L σ{p} = F e dus F = L wat beteket dat Q = Q 2. Gevolg 2. Veroderstel dat X e X 2 toevalsvariabele zij zodaig dat Da geldt P X = P X2. F (x) = P{X x} = P{X 2 x} = F 2 (x), x R.
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 8 Bewijs. Stel Ω = R, F = R e P = {], x] x R}. Da is P ee π-systeem e er geldt σ{p} = R (oef.). Als we verder Q i = P Xi stelle voor i =, 2, hebbe we Q (A) = Q 2 (A), A P e we kue da via de uiciteitsstellig cocludere dat Q = Q 2. 2.4 Discrete toevalsvariabele Toevalsvariabele die te hoogste aftelbaar veel waarde kue aaeme oeme we discrete toevalsvariabele. Toevalsvariabele waar maar eidig veel waarde mogelijk zij hete elemetaire toevalsvariabele. Algemee is het voldoede voor discrete toevalsvariabele de kasfuctie te bepale, i.e. p(x) = P{X = x}, x R. Per defiitie geldt da P{X S} =, waar S = {x p(x) > 0} te hoogste aftelbaar is e we kue kase P{X A} omiddellijk via de formule P{X A} = p(x) x S A berekee. (De verdeligsfuctie is i dit geval ee trapfuctie met discotiuïteitspute i S e het geldt F (x) F (x ) = p(x), x S.) Voorbeelde. Zij A F ee gebeurteis met P(A) = p. Da heeft de toevalsvariabele(!) I A (ga a dat deze F-meetbaar is) ee Beroulli(p)-verdelig. I dit geval geldt S = {0, } e p(0) = ( p), p() = p. 2. Zij A,..., A oafhakelijke gebeurteisse met P(A i ) = p, i. Stel X = i= I Ai. Vermits I Ai, i toevalsvariabele zij, volgt uit stellig 2.3.iii dat ook X ee toevalsvariabele is. Het is evidet dat S = {0,..., }. Gezie we A i als de gebeurteis succes bij het i-de va oafhakelijke Beroulli(p)-experimete kue beschouwe, volgt zoals i hoofdstuk.5 dat voor de kasfuctie va deze toevalsvariabele geldt: p(k) = ( k ) pk ( p) k, 0 k. De verdelig va deze toevalsvariabele heet de biomiaal(,p)-verdelig. (Natuurlijk is de Beroulli(p)-verdelig het speciale geval daarva, waar =.) 3. Werp ee mutstuk waar de kas op kop gelijk aa p is, totdat je de eerste keer kop krijgt. Stel X = # worpe. Da zij atuurlijk de mogelijke waarde:, 2, 3,... Als we oderstelle dat de worpe oafhakelijk va elkaar zij, volgt dat e verder geldt er voor k 2 p() = P{X = } = P{de eerste worp: kop} = p p(k) = P{X = k} = P{(k ) keer mut e da kop} = ( p) k p. Deze verdelig heet de geometrische verdelig met parameter p.
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 9 4. Als we i het vorige voorbeeld het mutstuk werpe totdat we de r-de keer kop hebbe gekrege, heeft de toevalsvariabele X = # worpe ee egatief-biomiaal(r,p)- verdelig. We hebbe i dit geval: S = {r, r +,...} e de kasfuctie is gegeve door p(k) = ( k r ) pr ( p) k r, k = r, r +,... (Als r = verkrijge we weer de geometrisch(p)-verdelig.) 5. I ee vaas zitte M blauwe balle e N gele balle. Wij trekke balle (a) met teruglegge, (b) zoder teruglegge ( N + M). Stel X = # getrokke blauwe balle. I geval (a) heeft X ee biomiaal(,m/(m+n))- verdelig. I geval (b) geldt: P{X = k} = ( M k ) ( N k ) ( M + N, max(0, N) k mi(, M). ) We oeme deze verdelig de hypergeometrische verdelig. Als mi(n, M) groot is e i vergelijkig relatief klei, kue we echter de kasfuctie va de hypergeometrische verdelig door de biomiale kasfuctie beadere. 6. Zij voor elke X biomiaal(, p )-verdeeld e veroderstel dat p λ ]0, [ als. Da geldt voor k 0 e k P{X = k} = ( k ) pk ( p ) k = k! k j= ( j )(p ) k ( p ) ( p ) k. Als (e k vast blijft) volgt dat k j=( j ), (p ) k λ k, ( p ) e λ (omdat p λ) e atuurlijk ( p ) k (weges p 0). Dus geldt: P{X = k} k! λk e λ = p(k), k = 0,,... Weges k 0 p(k) = volgt dat p(k), k 0 ee kasfuctie is e we oeme de daardoor bepaalde verdelig de Poisso-verdelig met parameter λ. Als we og ee keer het otmoetigsprobleem (zie hoofdstuk.3) bekijke zie we dat de toevalsvariabele X = het aatal pare die same blijve, i beaderig ee Poisso()-toevalsvariabele is. Maar we kue dit iet via het bovestaade argumet bewijze omdat we wel hebbe dat X = i I Ai, waar A i de gebeurteis is dat het i-de paar same blijft, i N, maar deze gebeurteisse zij iet oafhakelijk. Dus is X gee biomiaalverdeelde toevalsvariabele, maar covergeert og steeds aar ee Poissoverdelig als N. 2.5 Absoluut cotiue verdelige We bekijke u toevalsvariabele die meer da aftelbaar veel waarde aaeme. Vele va deze hebbe ee absoluut cotiue verdelig.
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 20 Defiitie 2.5 Ee kasmaat µ op R heet absoluut cotiu als de verdeligsfuctie x F (x) cotiu is e er ee Borel-meetbare fuctie f R [0, [ bestaat zodaig dat F (x) = We oeme f de dichtheidsfuctie va µ. Opmerkige x f(t)dt, x R.. De itegraal i de defiitie va F is de Lebesgue-itegraal die voor elke positieve Borel-meetbare fuctie bestaat (met ee waarde i [0, ]). Deze wordt formeel i de maattheorie (Bachelor 3) gedefiieerd. I deze cursus bekijke we bija uitsluited fucties f die ook Riema-itegreerbaar zij. Me ka toe dat als f 0 e de Riema-itegraal bestaat, deze gelijk aa de Lebesgue-itegraal is e dus is de Riema-itegraal (og) voldoede. 2. Vermits verdelige door hu verdeligsfucties bepaald zij, geldt atuurlijk voor elke Borelverzamelig A R: µ(a) = A f(t)dt. Verder volgt als X ee toevalsvariabele met ee absoluut cotiue verdelig is: P{X = x} = 0 x R. Met behulp va de volgede stellig kue we vaak aatoe dat ee gegeve verdelig absoluut cotiu is. Het iet-triviale bewijs daarva wordt hier iet gegeve. Stellig 2.8 Als µ ee kasmaat op R met ee cotiue verdeligsfuctie F is, die behoudes i hoogstes aftelbaar veel pute ee afgeleide F bezit, da is µ absoluut cotiu e we kue de dichtheidsfuctie defiiëre door f(t) = { F (t) als F differetieerbaar i t is 0 elders Opmerkige De voorwaarde de verdeligsfuctie F is cotiu is belagrijk omdat elke verdeligsfuctie va ee elemetaire toevalsvariabele aa de tweede voorwaarde voldoet. (I dit geval is F (t) = 0 voor alle pute t waar F cotiu is.) Er bestaa ook kasmate met cotiue verdeligsfucties die iet absoluut cotiu zij. Deze spele echter gee belagrijke rol i de toepassige va de kastheorie. Verder bestaa er absoluut cotiue verdelige waar de verdeligsfucties gee afgeleide bezitte voor meer da aftelbaar veel pute (e stellig 2.6 iet va toepassig is). De volgede stellig toot dat me i dit geval te miste voor de cotiuïteitspute va f deze door differetiëre va de verdeligsfuctie ka verkrijge. Stellig 2.9 Zij X ee toevalsvariabele met ee absoluut cotiue verdelig. Da is de verdeligsfuctie va X differetieerbaar i alle pute waar de dichtheidsfuctie f cotiu is. Bewijs h (F (x + h) F (x)) = { hp{x < X x + h} als h > 0 h P{x + h < X x} als h < 0 = h x+h x h 0 e f cotiu i x is. f(t)dt f(x) als
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 2 Zoals i het discrete geval bekijke we weer ekele speciale verdelige. Voorbeelde va absoluut cotiue verdelige () Zij a < b. Da is de uiform(a,b)-verdelig de absoluut cotiue verdelig met dichtheidsfuctie f(t) = { b a als t ]a, b[ 0 als t / ]a, b[ Deze verdelig is ee goed model voor ee toevalsvariabele waar me weet dat waarde tusse a e b mogelijk zij e voor deelitervalle va ]a, b[ die dezelfde legte hebbe de kas dat X i zo iterval zit idetiek is. Radom getalle op de computer (hoewel deze ee resultaat va ee determiistische algoritme zij) beschouwt me als de waarde va ee uiform(0,)-toevalsvariabele. Deze zij hadig omdat me toevalsvariabele met ee willekeurige adere verdelig door ee trasformatie va uiform(0,)-toevalsvariabele ka verkrijge. Stellig 2.0 Zij F R [0, ] ee verdeligsfuctie. Stel φ(u) = if{x F (x) u}, 0 < u <. Als U Ω ]0, [ uiform(0,)-verdeeld is, heeft de toevalsvariabele X = φ U de door F bepaalde verdelig. Bewijs. We otere eerst dat φ(u) R, u ]0, [. Bovedie geldt: {x F (x) u} = [φ(u), [ ( is triviaal. Zij x φ(u) Uit de defiitie va φ(u) als ee ifimum volgt dat er ee rij x φ(u) x bestaat zodaig dat F (x ) u wat impliceert dat F (φ(u)) u omdat F rechts cotiu is. Maar F is ook mootoo. Dus F (x) F (φ(u)) u.) We cocludere dat {ω X(ω) x} = {ω φ(u(ω) x} = {ω U(ω) F (x)} Dit toot dat X F-meetbaar is (gebruik stellig 2.2.i e het feit dat R = σ({], x] x R}) e verder dat P{X x} = P{U F (x)} = F (x), x R. Opmerkige. Als er ee ope iterval I =]a, b[ bestaat (eidig of oeidig) zodat F I I ]0, [ ee - -afbeeldig is, da is φ gelijk aa de iverse afbeeldig (F I ) ]0, [ I. Vadaar dat we φ ook de gegeeraliseerde iverse afbeeldig va F oeme. Verder is het iet moeilijk te zie dat φ altijd liks cotiu is (als gevolg va het feit dat F rechts cotiu is). Voorbeeld Zij F de verdeligsfuctie va ee Beroulli(p)-toevalsvariabele, dus : F (x) = 0, x < 0, F (x) = p, 0 x <, F (x) =, x. Da is φ = I ] p,[. (2) De gamma-verdelige. Herierig (aalyse): de gamma-fuctie is gedefiieerd door: Γ(α) = 0 e y y α dy, α > 0.
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 22 Verder geldt (partiële itegratie): e bijgevolg: Γ(k) = (k )!, k =, 2,... Als α, β > 0 stelle we Γ(α) = (α )Γ(α ), α >, f α,β (x) = { xα e x/β β α /Γ(α) als x 0 0 als x < 0 Gezie 0 f α,β (x)dx = (arekee, substitutie), kue we ee absoluut cotiue verdelig met f α,β als dichtheidsfuctie defiiëre. We oeme deze de gamma(α, β)-verdelig. I het speciale geval α = spreke we ook va ee expoetiële verdelig met parameter β. (i dit geval is de dichtheidsfuctie f,β (x) = e x/β /β, x > 0.) 3 2,5 2,5 gamma(.5,) 0,5 gamma(,) gamma(3,),5 0 0,5,5 2 2,5 3 3,5 4 4,5 5 (3) Normaalverdelige. Stel ϕ(x) = 2π e x2 /2, x R. Ga a dat ϕ(x) =. (Hit:( e x2 /2 dx) 2 = e (x2 +y 2 )/2 dxdy waar de dubbelitegraal gemakkelijk via ee trasformatie aar poolcoördiate te berekee is.) 0,5 ormal(0,) 0,4 0,3 0,2 0, 3-2,5-2 -,5 - -0,5 0 0,5,5 2 2,5 3-0,
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 23 Dus is ϕ de dichtheidsfuctie va ee absoluut cotiue verdelig die we de stadaardormaal-verdelig oeme. We otere de verdeligsfuctie va de stadaard-ormaal-verdelig met Φ, dus Φ(x) = 2π x e t2 /2 dt, x R, waarvoor gee eevoudige formule bestaat zodat we meestal ee tabel of ee computerprogramma moete gebruike om Φ(x) te bepale. Defiitie 2.6 Ee toevalsvariabele heeft ee ormaal(µ, σ 2 )-verdelig idie deze absoluut cotiu met dichtheidsfuctie x ϕ((x µ)/σ)/σ is. Lemma 2.2 Zij X ee toevalsvariabele met ormaal(µ, σ 2 )-verdelig. Da heeft Z = (X µ)/σ ee stadaard-ormaalverdelig. Bewijs Via de substitutie z = (t µ)/σ volgt: P{Z x} = P{X µ + σx} = µ+xσ σ ϕ((t µ)/σ)dt = x ϕ(z)dz = Φ(x), x R. Als we kase voor algemee ormaalverdeelde toevalsvariabele moete berekee, kue we deze altijd via lemma 2. herschrijve als kase betreffede stadaard-ormaalverdeelde toevalsvariabele. De volgede stellig is belagrijk voor de statistiek. Stellig 2. Zij Z ee stadaard-ormaalverdeelde toevalsvariabele. Da heeft Z 2 ee gamma(/2,2)-verdelig. Bewijs Voor de verdeligsfuctie F va Z 2 geldt: F (x) = P{ Z x} = Φ( x) Φ( x), x 0 e (triviaal) F (x) = 0, x < 0. Dus is F cotiu e verder bestaat F (x), x /= 0 e we kue via stellig 2.6 cocludere dat Z 2 ee dichtheidsfuctie f heeft gegeve door f(x) = (Φ ( x) Φ ( x)/(2 x) = x /2 e x/2 / 2π, x > 0 e f(x) = 0, x 0. Dus geldt: f(x) = cf /2,2 (x), x R, waar f /2,2 de gamma(/2,2)-dichtheidsfuctie e c > 0 ee costate is. Gezie het om twee dichtheidsfucties gaat (waar dus de itegraal over R gelijk aa is) volgt dat c =. (Dit impliceert trouwes ook dat Γ(/2) = π.) De vorige stellig toot aa dat als X ee stadaard-ormaalverdeelde toevalsvariabele is e g(x) = x 2, x R, de toevalsvariabele g X ee absoluut cotiue verdelig heeft e specificeert de dichtheidsfuctie. Trasformatie va dichtheidsfucties Ee geeralisatie daarva is de volgede stellig waar we m--afbeeldige bekijke. (Natuurlijk kue we zo stellig iet voor willekeurige afbeeldige bewijze omdat als g(r) eidig of aftelbaar is, g X ee discrete verdelig heeft.) Stellig 2.2 Zij X Ω R ee toevalsvariabele met absoluut cotiue verdelig e dichtheidsfuctie f X, g R R Borel-meetbaar e I i, i m disjucte ope itervalle (eidig of oeidig) zodaig dat
HOOFDSTUK 2. TOEVALSVARIABELEN EN VERDELINGEN 24 (i) m i= P{X I i } = (ii) g(i i ) =]c, d[, i m, waar c, d [, ]. (iii) g i = g Ii I i ]c, d[ is differetieerbaar met ee cotiue afgeleide g i (a) /= 0, a I i. Da is de verdelig va Y = g X ook absoluut cotiu met dichtheidsfuctie f Y (y) = { m i= g (h i (y)) f X(h i (y)) als y ]c, d[ 0 als y / ]c, d[ waarbij h i = g i ]c, d[ I i de iverse fuctie va g i is. ( i m) Bewijs Zij x ]c, d[. Da volgt: P{Y x} = m i= P{g X x, X I i =]a i, b i [} = i g i >0 P{X h i (x), X ]a i, b i [} + i g i <0 P{X h i (x), X ]a i, b i [} h i (x) i g i >0 a i = = m = x i= c x m c i= f X (t)dt + b i i g i <0 h i (x) f X (t)dt h i(y) f X (h i (y))dy (substitutie: t = h i (y), i m) g (h i (y)) f X(h i (y))dy Dus heeft Y dezelfde verdeligsfuctie als de absoluut cotiue kasmaat met de bovestaade dichtheidsfuctie. Dit impliceert dat deze da ook de verdelig va Y moet zij (zie opmerkig (3), hoofdstuk 2.2). Voorbeelde. Als X ee toevalsvariabele met P{X ]a, b[} =, g ]a, b[ ]c, d[ ee --afbeeldig met cotiue afgeleide g (t) /= 0, t ]a, b[ is e h ]c, d[ ]a, b[ de iverse afbeeldig va g is, da geldt voor de dichtheidsfuctie f Y va Y = g X: g f Y (y) = (h(y)) f X(h(y)) y ]c, d[ 0 elders. Bijvoorbeeld, als X uiform(0,)-verdeeld is volgt dat Y = log(x) ee expoetiële verdelig met parameter heeft. (Stel g(x) = log(x), x ]0, [.) 2. Zij X ee toevalsvariabele met absoluut cotiue verdelig e dichtheidsfuctie f X. Da heeft de toevalsvariabele X 2 altijd ee absoluut cotiue verdelig met dichtheidsfuctie g = f X 2 die voldoet aa g(y) = 2 y (f X( y) + f X ( y)), y > 0. Om dit via stellig 2. te bewijze, stelle we g(x) = x 2, x R, I =]0, [, I 2 =], 0[ e ]c, d[=]0, [. Da is h (y) = y, h 2 (y) = y, y > 0 e we verkrijge omiddellijk de bovestaade formule voor g.
Hoofdstuk 3 Toevalsvectore e verdelige 3. Gezamelijke e margiale verdeligsfucties Zij (Ω, F, P) ee kasruimte. We oeme da de F-meetbare afbeeldige X Ω R k de (k-dimesioale) toevalsvectore. Uit stellig 2.3 volgt dat X = (X,..., X k ) Ω R k toevalsvector is als e slechts als X i Ω R toevalsvariabele zij, i k. Dus als X, X 2 toevalsvariabele zij e we kase zoals P{X > X 2 }, P{X +X 2 x} moete berekee, kue we deze als kase betreffede ee 2-dimesioale toevalsvector beschouwe, dwz als P{(X, X 2 ) A} voor ee tweedimesioale Borelverzamelig. Defiitie 3. Als X,..., X k toevalsvariabele zij, oeme we de door P{(X,..., X k ) A}, A R k gedefiieerde kasmaat de gezamelijke verdelig va X,..., X k of de verdelig va de toevalsvector X = (X,..., X k ) Notatie: P X. Dat we op deze maier ee kasmaat verkrijge, volgt precies zoals i stellig 2.5. We oeme da verder de (-dimesioale) verdelige va de toevalsvariabele X,..., X k de margiale verdelige. Als we de gezamelijke verdelig kee, kue we de margiale verdelig omiddellijk bepale (bijvoorbeeld geldt: P{X B} = P{(X,..., X k ) B R k }), maar i het algemee kue we iet de gezamelijke verdelig bepale, als we maar iformatie over de margiale verdelige hebbe. Defiitie 3.2 Als X,..., X k toevalsvariabele zij, oeme we de fuctie F X (x) = P{X x,..., X k x k }, x = (x,..., x k ) R k de (gezamelijke) verdeligsfuctie va de toevalsvariabele X,..., X k. Zoals i het -dimesioale geval bestaat er ee - verbad tusse k-dimesioale verdeligsfucties e k-dimesioale verdelige. Stellig 3. Als X,..., X k e Y,..., Y k toevalsvariabele zij zodat de twee gezamelijke verdeligsfucties overeestemme, i.e. F (X,...,X k )(x) = F (Y,...,Y k )(x), x R k, hebbe we: P X = P Y. Om deze stellig te bewijze, hebbe we ee extra lemma odig. 25
HOOFDSTUK 3. TOEVALSVECTOREN EN VERDELINGEN 26 Lemma 3. Zij X = (X,..., X k ) Ω R k ee toevalsvector (k 2) met verdeligsfuctie F R k [0, ]. Da geldt voor elke keuze a i < b i, i k, P{X k ]a i, b i ]} = ( ) #I F (c I ), i= I {,...,k} waar c I = (c I (),..., c I (k)) R k met c i (j) = a j als j I e c i (j) = b j als j / I. Bewijs. Zij S x = k i=], x i ], x = (x,..., x k ) R k. Da geldt er S b = k ]a i, b i ] k S c{i}. i= i= Via de formule va het i- e uitsluite kue we da cocludere dat F (b) = F (c ) = P{X k ]a i, b i ]} + ( ) +#I P( S c{i} ). i= I {,...,k} i I Uit de defiitie va de verzamelige S x volgt er dat i I S c{i} = S(c I ) e het lemma is beweze. Bewijs va stellig 3.. Stel P = { k ]a i, b i ] < a i < b i, < i k} { }. i= Da is P ee π-systeem zodaig dat σ{p} = R k (oef.) e als we Q (A) = P{X A}, Q 2 (A) = P{Y A}, A R k stelle, volgt uit het bovestaade lemma dat Q (A) = Q 2 (A), A P. Stellig 2.7 impliceert da dat Q = Q 2. We otere og de volgede stellig, Stellig 3.2 Als X,..., X k toevalsvariabele met gezamelijke verdeligsfuctie F (x,..., x k ) zij, geldt voor de margiale verdeligsfucties F Xi (x i ) = P{X i x i } = lim F (x,..., x k ), x i R, i k. xj j /=i Bewijs Zij A = {X j x () j, j /= i, X i x i }, waar x () j. Da is het evidet dat A {X i x i } e dus geldt P(A ) F Xi (x i ) als. 3.2 Discrete verdelige We bekijke hoofdzakelijk het geval k = 2. De uitbreidig aar hogere dimesies is meestal evidet. Als X, X 2 discrete toevalsvariabele zij, da bestaa er te hoogste aftelbaar veel pare x = (x, x 2 ) zodaig dat de gezamelijke kasfuctie p(x, x 2 ) = P{X = x, X 2 = x 2 } > 0 is e we kue de kase via de volgede formule berekee: P{(X, X 2 ) A} = p(x, x 2 ), A R 2 (x,x 2 ) S A waar S {(x, x 2 ) R 2 p(x, x 2 ) > 0}. (Zoals altijd is de som over de lege verzamelig is als 0 gedefiieerd.) De margiale kasfucties va X e X 2 kue we via de volgede stellig bepale.
HOOFDSTUK 3. TOEVALSVECTOREN EN VERDELINGEN 27 Stellig 3.3 Als X, X 2 discrete toevalsvariabele met kasfuctie p(x, x 2 ) zij, geldt er: (a) P{X = x } = x2 p(x, x 2 ), x R. (b) P{X 2 = x 2 } = x p(x, x 2 ), x 2 R. Bewijs (a) Zij S x = {x 2 p(x, x 2 ) > 0}. Da is S x te hoogste aftelbaar e het geldt: P{X = x } = P((X, X 2 ) {x } S x ) + P((X, X 2 ) {x } S c x ) Het bewijs va (b) verloopt aaloog. Voorbeelde = x 2 S x p(x, x 2 ) + 0 = x 2 p(x, x 2 ). I ee doos zitte 3 balle waarop de ummers,2,3 staa. We trekke 2 balle (a) met terugleggig e (b) zoder terugleggig. Stel X = het ummer op de eerste bal, X 2 = het ummer op de tweede bal. Bepaal de gezamelijke kasfuctie va X, X 2 e de twee margiale kasfucties p X, p X2. Oplossig I geval (a) geldt p(x, x 2 ) = /9, (x, x 2 ) {, 2, 3} 2. Dus p X (x ) = /3, x =, 2, 3 e ook p X2 (x 2 ) = /3, x 2 =, 2, 3. I geval (b) geldt p(x, x 2 ) = /6, x /= x 2, maar iettemi zij p X, p X2 zoals i (a). Dit toot dat we i het algemee gezamelijke verdelige iet via de margiale verdelige kue bepale. 2. Beschouw twee discrete toevalsvariabele X, X 2 met gezamelijke kasfuctie p(x, x 2 ) = λ x 2 x!(x 2 x )! e 2λ, x = 0,, 2,..., x 2 = x, x +, x + 2,... Bepaal: (a) de margiale verdelige, (b) P{X = X 2 }. Oplossig (a) Ee directe toepassig va stellig 3.3 levert: p X (x ) = e 2λ x 2 =x = e 2λ λx x! λ x2 x!(x 2 x )! x 2 =x waaruit blijkt dat X Poisso(λ)-verdeeld is. Aaloog volgt: p X2 (x 2 ) = x 2 x =0 λ x 2 x!(x 2 x )! e 2λ = λx2 Dus is Y Poisso(2λ)-verdeeld. λ x2 x λx = e λ (x 2 x )! x!, x = 0,,... x 2! e 2λ x 2 x =0 (b) P{X = X 2 } = x =0 p(x, x ) = e 2λ x =0 λ x /x! = e λ. ( x 2 ) = (2λ)x2 e 2λ, x 2 = 0,, 2,..., x x 2!