Stochastiek 2. Inleiding in de Mathematische Statistiek 1/19

Transcriptie

1 Stochastiek 2 Inleiding in de Mathematische Statistiek 1/19

2 Herhaling H.1 2/19

3 Mathematische Statistiek We beschouwen de beschikbare data als realisatie(s) van een stochastische grootheid X.(Vaak een vector van de vorm X =(X 1,...,X n ).) Oftewel: we vatten de data op als uitkomsten van een kansexperiment. 3/19

4 Mathematische Statistiek We beschouwen de beschikbare data als realisatie(s) van een stochastische grootheid X.(Vaak een vector van de vorm X =(X 1,...,X n ).) Oftewel: we vatten de data op als uitkomsten van een kansexperiment. De variabiliteit in de data wordt beschreven met behulp van kansverdelingen. Statistisch model: collectie van kansverdelingen die de mogelijke variabiliteit in de data beschrijven. Doel van een statistische procedure: het identificeren van de verdeling die de data het beste beschrijft. 3/19

5 Algemene setup Data: stochastische grootheid X.VaakX =(X 1,...,X n ). Model: collectie kansverdelingen {P : 2 } die de mogelijke verdelingen van de data beschrijven. Terminologie: : parameter, :parameter ruimte. 4/19

6 Algemene setup Data: stochastische grootheid X.VaakX =(X 1,...,X n ). Model: collectie kansverdelingen {P : 2 } die de mogelijke verdelingen van de data beschrijven. Terminologie: : parameter, :parameter ruimte. Doel: schatten van, toetsen van hypotheses over, construëren van betrouwbaarheidsgebieden voor. 4/19

7 H.2 Verdelingsonderzoek 5/19

8 Achtergrond Bij het ontwikkelen van schatters, toetsen, etc. zullen we meestal het statistisch model als gegeven beschouwen. We maken dan aannames over de verdeling van de data. Om het gebruik van bepaalde statistische methoden in de praktijk te rechtvaardigen is het daarom belangrijk dat we die aannames verifiëren. In data analyse toepassingen vaak een eerste stap, voordat meer precieze methoden worden gebruikt. 6/19

9 Grafische Methoden Histogram: visualiseertdeverdelingvaneendatasetals staafdiagram. Boxplot: visualiseert verdeling compacter, handig om snel verschil in verdeling tussen verschillende datasets te detecteren. QQ-plot: visuele check of dataset uit een concrete locatie-schaalfamilie komt. Scatter plot: geeft indruk van samenhang tussen variabelen. Auto-correlatieplot: geeft indruk van de correlatie tussen variabelen. 7/19

10 Histogram Idee: Heb x 1,...,x n 2 R. Vat op als steekproef uit een verdeling op R. Visualiseer die verdeling. Constructie: Kies a 0 < a 1 < < a m en beschouw de corresponderende partitie van R. (Intervallen(a j 1, a j ]hetendebins van het histogram.) Definieer h : R! [0, 1), constant op iedere bin (a j 1, a j ]: h(x) = ( 1 P n n(a j a j 1 ) i=1 1 (a j 1,a j ](x i ) als x 2 (a j, a j 1 ] 0 anders. Als bins even lang zijn: waarde van h op de bin (a j 1, a j ]is proportioneel met het aantal waarnemingen in de bin. 8/19

11 Histogram - 2 Stel X 1,...,X n, onafh, dichtheid f.zijh het corresponderende histogram voor partitie a 0 < a 1 < < a m.danvoor x 2 (a j, a j 1 ] 1 Eh(x) =E n(a j a j 1 ) nx 1 (aj 1,a j ](X i )= i=1 1 a j a j 1 Z aj a j 1 f (y) dy. Dus als X 1,...,X n een steekproef is uit f, n is niet te klein, en de partitie is fijn genoeg, dan geeft h een indruk van de vorm van f. 9/19

12 Boxplot Idee: Grove visualisatie van verdeling van data x 1,...,x n 2 R outlier 1.5 x interkwartielafstand bovenste kwartiel mediaan onderste kwartiel 10 / 19

13 Boxplot - 2 Vooral handig om verschillen in verdeling snel te zien / 19

14 QQ-plot Idee: visueel nagaan of dataset x 1,...,x n 2 R uit een gegeven locatie-schaalfamilie komt. Definitie: Voor een verdelingsfunctie F, a 2 R en b > 0, F a,b (x) =F ((x a)/b). {F a,b : a 2 R, b > 0} heet de locatie-schaalfamilie bij F. (achtergrond: als X F,dana + bx F a,b ) Voorbeeld: de locatie-schaalfamilie van de N(0, 1) verdeling is de collectie {N(a, b 2 ):a 2 R, b > 0} van alle (niet-gedegenereerde) normale verdelingen. 12 / 19

15 QQ-plot - 2 QQ-plots zijn gebaseerd op kwantielen (Engels: Quantiles). Definitie: Zij F een verdelingsfunctie en 2 (0, 1). Het -kwantiel van F is het punt F 1 ( ) =inf{x : F (x) }. Feit 1: voor de locatie-schaal familie van F geldt, voor alle 2 (0, 1), F 1 a,b ( ) =a + bf 1 ( ). Bewijs: opgave 2.2! 13 / 19

16 QQ-plot - 3 De punten {(F 1 ( ), F 1 a,b ( )) : 2 (0, 1)} R2 liggen dus op een rechte lijn! Definitie: Zij x 1,...,x n 2 R een rij verschillende getallen. De corresponderende geordende rij x (1) < x (2) < < x (n) (van dezelfde getallen) is de rij van ordestatistieken. Feit 2: als X 1,...,X n o.o., F,dan Bewijs: opgave 2.8! EF (X (i) )= i n +1, i =1,...,n. 14 / 19

17 QQ-plot - 4 Zij nu X 1,...,X n o.o., F a,b.dan: Feit 2: i/(n + 1) F a,b (X (i) ), en dus: F 1 a,b (i/(n + 1)) X (i), en dus (Feit 1): a + bf 1 (i/(n + 1)) X (i). Conclusie: de punten {(F 1 (i/(n + 1)), X (i) ), i =1,...,n} liggen ongeveer op de lijn a + bx = y. Definitie: De QQ-plot van de punten x 1,...,x n t.o.v. de verdelingsfunctie F is een plot van de punten {(F 1 (i/(n + 1)), x (i) ), i =1,...,n}. 15 / 19

18 Scatter plot Idee: observeer paren (x 1, y 2 ),...,(x n, y n ). Zet x-jes en y-tjes tegen elkaar uit om te zien of er een mooi verband is. Wordt vaak gebruikt om te zien of er (bij benadering) een lineair verband is. 16 / 19

19 Auto-correlatie plot Idee: visualisatie van correlatie tussen observaties x 1,...,x n. Herinner: correlatie tussen stochasten X en Y (in L 2 )is = Cov(X, Y ) p Var(X )Var(Y ) = E(X EX )(Y EY ) p E(X EX ) 2 E(Y EY ) 2. Als X en Y onafhankelijk zijn, dan is Cov(X, Y ) = 0. Maar niet andersom! 17 / 19

20 Auto-correlatie plot - 2 Als X 1,...,X n onafhankelijk zijn, is dus Cov(X i, X i+h )=0, 8h 1, 8i zdd i, i + h 2{1,...n}. Voor elke h 0 observeren we een aantal paren (X i, X i+h )en kunnen we de correlatie benaderen door het corresponderende steekproefgemiddelde (wet van grote aantallen) r X (h) = P n h i=1 (X i X )(X i+h X ) (n h)sx 2, h =0,...,n 1, waarbij P n SX 2 = i=1 (X i X ) 2. n 1 Dit is de steekproef auto-correlatie van orde h. 18 / 19

21 Auto-correlatie plot - 3 Definitie: de auto-correlatieplot van x 1,...,x n is een plot van de punten {(h, r x (h)), h =0, 1,...,n} (of een deel daarvan). De auto-correlatieplot wordt wel gebruikt om visueel te onderzoeken of voldaan is aan de aanname van onafhankelijkheid van X 1,...,X n. Omdat correlatie 0 geen onafhankelijkheid impliceert, is het raadzaam om in zulke gevallen niet alleen de steekproef auto-correlaties van X i s de plotten, maar ook die van de Xi 2 s, Xi 3 s etc. 19 / 19