Hoofdstuk 5. Toevalsveranderlijken en waarschijnlijkheidsdistributies. Marnix Van Daele. Vakgroep Toegepaste Wiskunde en Informatica Universiteit Gent

Transcriptie

1 Hoofdstuk 5 Toevalsveranderlijken en waarschijnlijkheidsdistributies Marnix Van Daele MarnixVanDaele@UGentbe Vakgroep Toegepaste Wiskunde en Informatica Universiteit Gent Toevalsveranderlijken en waarschijnlijkheidsdistributies p 1/23

2 Toevalsveranderlijken Experiment : worp met muntstuk resultatenruimte = {K, M} n =2onafhankelijke experimenten P(K) =P(M) = 1 2 I = aantal keer kop munt 1 munt 2 P(E i ) I E 1 K K 1/4 2 E 2 K M 1/4 1 E 3 M K 1/4 1 E 4 M M 1/4 0 i P (I = i) kansverdeling van de toevalsveranderlijke I Een toevalsveranderlijke is een numerieke functie gedefinieerd over de resultatenruimte Toevalsveranderlijken en waarschijnlijkheidsdistributies p 2/23

3 Notaties Een discrete toevalsveranderlijke is een veranderlijke die hoogstens een aftelbaar aantal waarden kan aannemen Met aftelbaar wordt bedoeld dat de waarden geassocieerd kunnen worden met de getallen 1, 2, 3, Een continue toevalsveranderlijke is een veranderlijke die een oneindig groot aantal waarden, corresponderend met de punten op een lijninterval, kan aannemen discreet continu veranderlijke I, J, K, X, Y, Z, waarden i, j, k, x, y, z, P(I = i) P(x X x + dx) P(I w) P(X w) Toevalsveranderlijken en waarschijnlijkheidsdistributies p 3/23

4 Waarschijnlijkheidsverdelingen van een discrete toevalsveranderlijke I P(I = i) =ϕ I (i) i ϕ I (i) ϕ I (i) : differentiële distributiefunctie van de discrete toevalsveranderlijke I Φ I (w) : cumulatieve distributiefunctie van de discrete toevalsveranderlijke I Φ I (w) = i w ϕ I (i) i ϕ I (i) w φ I (w) Toevalsveranderlijken en waarschijnlijkheidsdistributies p 4/23

5 Waarschijnlijkheidsverdelingen van een continue toevalsveranderlijke X P(x X x + dx) =ϕ X (x) dx ϕ X (x) : differentiële distributiefunctie of kansdichtheid van de continue toevalsveranderlijke X Φ X (w) : cumulatieve distributiefunctie van de continue toevalsveranderlijke X Φ X (w) = w ϕ X (x) dx ϕ X (x) = d dx Φ X(x) x ϕ X (x) w φ X (w) 1 Toevalsveranderlijken en waarschijnlijkheidsdistributies p 5/23

6 Waarschijnlijkheidsverdelingen van een continue toevalsveranderlijke X ϕ X (x) x 1 x 2 P(x 1 <X x 2 ) = = = x x2 x 1 P(x X x + dx) =ϕ X (x) dx Φ X (w) = ϕ X (x) dx x 1 ϕ X (x) dx + x2 ϕ X (x) dx w x2 x1 ϕ X (x) dx ϕ X (x) dx ϕ X (x) dx = Φ X (x 2 ) Φ X (x 1 ) Toevalsveranderlijken en waarschijnlijkheidsdistributies p 6/23

7 Opmerking voor continue toevalsveranderlijken ϕ X (x) x 1 x 2 x De kans dat een continue toevalsveranderlijke X een waarde aanneemt in een oneindig klein interval [x, x +dx] is ϕ X (x)dx De kans dat X een welbepaalde waarde x aanneemt daarentegen is steeds 0 (je zou kunnen stellen dat het interval breedte 0 heeft) P(x 1 <X x 2 ) = P(x 1 X x 2 ) = P(x 1 X<x 2 ) = P(x 1 <X<x 2 ) Toevalsveranderlijken en waarschijnlijkheidsdistributies p 7/23

8 De transformatie Y = ax + b a>0 : Φ Y (y) =P(Y y) =P(aX + b y) ( = P X y b ) ( ) y b =Φ X a a ( ) ( ) y b y b ϕ Y (y) dy = ϕ X d = 1 ( ) y b a a a ϕ X dy a a<0 : Φ Y (y) =P(Y y) =P(aX + b y) ( = P X y b ) ( ) y b =1 Φ X a a ( ) ( ) y b y b ϕ Y (y) dy = ϕ X d = 1 ( ) y b a a a ϕ X dy a ϕ Y (y) dy = 1 ( ) y b a ϕ X dy a Toevalsveranderlijken en waarschijnlijkheidsdistributies p 8/23

9 De transformatie Y = ax + b X Y = X +2 Y =5 X Y =1+X/2 Y =9 2 X Toevalsveranderlijken en waarschijnlijkheidsdistributies p 9/23

10 De transformatie Y = ax + b ϕ Y (y) dy = 1 a ϕ X ( ) y b a dy Concreet betekent de overgang van X op Y dat ϕ X (x) en Φ X (x) worden (i) verschoven, (ii) eventueel gespiegeld (als a<0) en (iii) in de breedte uitgerokken (als a > 1) of samengedrukt (als a < 1) van links naar rechts X Y 1 = X +2 Y 2 =4 X Y 3 = 1 X Y 4 =2X +8 Toevalsveranderlijken en waarschijnlijkheidsdistributies p 10/23

11 Karakteristieken De verwachtingswaarde E[f(X)] van een functie f(x) van een discrete toevalsveranderlijkex wordt gedefinieerd als E[f(X)] = i f(x i ) ϕ X (x i ) continue toevalsveranderlijkex wordt gedefinieerd als E[f(X)] = + f(x) ϕ X (x) dx E[a f(x)+b g(x)] = a E[f(X)] + b E[g(X)] Toevalsveranderlijken en waarschijnlijkheidsdistributies p 11/23

12 Karakteristieken discreet E[f(I)]= i f(i)ϕ I (i) continu + E[f(X)]= f(x)ϕ X (x)dx ϕ I (i) =1 E[1]= + ϕ X (x)dx =1 E[1]= i µ I = E[I]= i iϕ X (i) µ X = E[X]= + xϕ X (x)dx µ k,i = E[I k ]= i + i k ϕ X (i) µ k,x = E[X k ]= x k ϕ X (x)dx µ k : moment van de k de orde Toevalsveranderlijken en waarschijnlijkheidsdistributies p 12/23

13 Karakteristieken discreet E[f(I)]= f(i)ϕ I (i) i E[f(X)]= continu + f(x)ϕ X (x)dx µ k,i = E[(I µ I ) k ] µ k,x = E[(X µ X ) k ] = + (i µ I ) k ϕ X (i) = (x µ X ) k ϕ X (x)dx i µ k : centraal moment van de k de orde µ 1,I = E[I µ I ]=E[I] µ I E[1] = µ I 1 µ I =0 σ 2 I = µ 2,I = E[(I µ I ) 2 ] σ 2 X = µ 2,X = E[(X µ X ) 2 ] σ 2 I = E[(I µ I ) 2 ]=E[I 2 2 µ I I + µ 2 I] = E[I 2 ] 2 µ I E[I]+µ 2 I E[1] = µ 2,I µ 2 I Toevalsveranderlijken en waarschijnlijkheidsdistributies p 13/23

14 µ, σ 2 en σ discreet E[f(I)]= i f(i)ϕ I (i) continu + E[f(X)]= f(x)ϕ X (x)dx µ I = i iϕ X (i) µ X = + xϕ X (x)dx σ 2 I = i + i 2 ϕ X (i) µ 2 I σx 2 = x 2 ϕ X (x)dx µ 2 X σ I = σ 2 I σ X = σ 2 X Toevalsveranderlijken en waarschijnlijkheidsdistributies p 14/23

15 De transformatie Y = ax + b E[Y ]=E[aX + b] =a E[X]+b µ ax+b = aµ X + b σ 2 Y = E[(Y µ Y ) 2 ]=E[(aX+b (aµ X +b)) 2 ]=a 2 E[(X µ X ) 2 ] σ 2 ax+b = a2 σ 2 X σ ax+b = a σ X Toevalsveranderlijken en waarschijnlijkheidsdistributies p 15/23

16 Karakteristieken De gemiddelde afwijking van een veranderlijke X is E[ X µ X ] De modus of dominerende waarde van een discrete veranderlijke X is de waarde waarbij de waarschijnlijkheid het grootst is Voor een continue veranderlijke is de modus de waarde waarvoor de waarschijnlijkheidsdichtheid het grootst is De mediaan van een veranderlijke X is de waarde w waarvoor Φ X (w) =1/2 Toevalsveranderlijken en waarschijnlijkheidsdistributies p 16/23

17 De momentenfunctie E[e tx ]= + e tx ϕ X (x) dx + + = 1 ϕ X (x) dx + t x ϕ X (x) dx ! t2 x 2 ϕ X (x) dx + =1+µ 1 t + µ 2 2! t2 + = + i=0 µ i i! ti momentenfunctie M X (t) =E[exp(tX)] Stelling : M ax+b (t) =e bt M X (at) Toevalsveranderlijken en waarschijnlijkheidsdistributies p 17/23

18 Onafhankelijke veranderlijken A en B zijn onafhankelijke verschijnselen P(A B) =P(A) P(B) Stel A =(X x) en B =(Y y) X en Y zijn onafhankelijke toevalsveranderlijken P((X x) (Y y)) = P(X x) P(Y y) x, y R Φ X,Y (x, y) =Φ X (x)φ Y (y) x, y R afleiding naar x en naar y : = d d dx dy Φ X,Y (x, y) = d dx Φ X(x) d dy Φ Y (y) =ϕ X (x) ϕ Y (y) ϕ X,Y (x, y) dx dy = ϕ X (x) ϕ Y (y) dx dy P ((x X x + dx) (y Y y + dy)) = ϕ X,Y (x, y) dx dy Toevalsveranderlijken en waarschijnlijkheidsdistributies p 18/23

19 Onafhankelijke verschijnselen Stelling Zijn X 1, X 2,,X n twee aan twee onafhankelijk dan n geldt voor Y = a 0 + a i X i dat i=1 M Y (t) =e a 0 t n i=1 M Xi (a i t) Toevalsveranderlijken en waarschijnlijkheidsdistributies p 19/23

20 Onafhankelijke verschijnselen Als Z = ax + by, dan is µ Z = E[aX + by]=a E[X]+b E[Y ]=aµ X + bµ Y σz 2 = E[(Z µ Z ) 2 ] = E[(aX + by (aµ X + bµ Y )) 2 ] = E[(a (X µ X )+b(y µ Y )) 2 ] = a 2 E[(X µ X ) 2 ]+2abE[(X µ X )(Y µ Y )] +b 2 E[(Y µ Y ) 2 ] = a 2 σx 2 +2abσ XY + b 2 σy 2 de covariantie van X en Y : σ XY = E[(X µ X )(Y µ Y )] Opmerking : σ XX = E[(X µ X )(X µ X )] = σx 2 Toevalsveranderlijken en waarschijnlijkheidsdistributies p 20/23

21 Onafhankelijkheid covariantie Stelling : Als X en Y onafhankelijk zijn, dan is σ XY =0 Bewijs : σ XY = E[(X µ X )(Y µ Y )] = = = ( + = µ X,1 µ Y,1 = 0 (x µ X )(y µ Y ) ϕ X,Y (x, y) dx dy (x µ X )(y µ Y ) ϕ X (x) ϕ Y (y) dx dy )( + (x µ X ) ϕ X (x) dx ) (y µ Y ) ϕ Y (y) dy Toevalsveranderlijken en waarschijnlijkheidsdistributies p 21/23

22 Lineaire combinaties Zij Z = n i=1 a i X i waarbij µ Xi = µ i en σ Xi = σ i en σ Xi X j = σ ij µ Z = n a i µ i σ 2 Z = i=1 n a 2 i σ 2 i +2 n 1 n a i a j σ ij i=1 i=1 j=i+1 Indien alle veranderlijken 2 aan 2 onafhankelijk zijn, vereenvoudigt deze betrekking tot σ 2 Z = n i=1 a 2 i σ 2 i Toevalsveranderlijken en waarschijnlijkheidsdistributies p 22/23

23 Correlatie σ XY De correlatiecoëfficiënt ρ XY = drukt uit in hoeverre er σ X σ Y een lineair verband bestaat tussen X en Y µ Y = aµ X + b Y = ax + b = σ Y = a σ X σ XY = E[(X µ X )(Y µ Y )] = E[(X µ X )((ax + b) (aµ X + b))] ρ XY = = a E[(X µ X ) 2 ]=aσ 2 X σ XY σ X σ Y = aσ 2 X σ X ( a σ X ) = a a = 1 a>0 1 a<0 ρ XY =0 X en Y zijn ongecorreleerd Toevalsveranderlijken en waarschijnlijkheidsdistributies p 23/23