Vandaag. Onderzoeksmethoden: Statistiek 3. Recap 2. Recap 1. Recap Centrale limietstelling T-verdeling Toetsen van hypotheses

Transcriptie

1 Vandaag Onderzoeksmethoden: Statistiek 3 Peter de Waal (gebaseerd op slides Peter de Waal, Marjan van den Akker) Departement Informatica Beta-faculteit, Universiteit Utrecht Recap Centrale limietstelling T-verdeling Toetsen van hypotheses Statistiek 3: 1 / 50 Statistiek 3: 2 / 50 Recap 1 Begrippen Recap 2 ( ) Normale verdeling: f (x) = 1 exp (x µ)2 2πσ 2 2σ 2 Standaardnormale verdeling: speciaal geval met µ = 0, σ = 1. Experiment Stochastische variabele Theoretische kansverdelingen Verwachting ( gemiddelde ), variantie, standaarddeviatie... Z-scores Statistiek 3: 3 / 50 Statistiek 3: 4 / 50

2 Reality check Centrale limietstelling Q: Wat als scores uit de echte wereld helemaal niet lijken op een theoretische verdeling? Q: Wat als we de populatieparameters niet kennen (b.v. µ en σ?) Trek een aselecte steekproef X 1, X 2,..., X n van omvang n en gebruik: Steekproefgemiddelde n i=1 X(n) = X i n Het steekproefgemiddelde, zoals in bovenstaande formule is ook een stochastische variabele en heeft dus een verdeling, verwachting, variantie,... Steekproef X 1,..., X n : elke afzonderlijke X i is onafhankelijk en identiek verdeeld, gemiddelde µ en variantie σ 2. Stelling X(n) = (X 1 + X X n )/n Als n, dan is X(n) bij benadering normaal verdeeld met gemiddelde µ en variantie σ 2 /n. σ n heet de standaardfout (van het gemiddelde) Z(n) = X(n) ( µ σ/ ) is standaardnormaal verdeeld. n In de praktijk is n 30 voldoende. Statistiek 3: 5 / 50 Statistiek 3: 6 / 50 Centrale limietstelling: wat betekent dit? Voorbeeld 1 Steekproefverdeling: Meet individuen op variabele X. Herhaal dit m keer (b.v. m = 1000) en noteer individuele waarden. Histogram representeert steekproefverdeling (Eng: sample distribution) Verdelingen van steekproefgemiddelde Neem een steekproef van n individuen en meet en bepaal steekproefgemiddelde X(n). Herhaal dit m keer (b.v. m = 1000) en noteer de afzonderlijke steekproefgemiddelden. Histogram representeert de verdeling van het steekproefgemiddelde (Eng: sampling distribution) Voorbeeld Gemeten variabele: gewicht X Normale verdeling (µ = 80 kg, σ = 20 kg). n=1 n=4 n=100 X X(4) X(100) Statistiek 3: 7 / 50 Statistiek 3: 8 / 50

3 Voorbeeld 2 Voorbeeld: worp van één dobbelsteen: Elke steekproef = 1 worp: histogram: tel aantal ogen (sample distribution) Voorbeeld 2 Voorbeeld: worp van twee dobbelstenen: Elke steekproef = 2 worpen: histogram: tel gemiddeld aantal ogen (is dus sampling distribution bij steekproefgrootte n = 2) Statistiek 3: 9 / Statistiek 3: 10 / 50 Voorbeeld 2 Voorbeeld: worp van vijf dobbelstenen: Elke steekproef = 5 worpen: histogram: tel gemiddeld aantal ogen (sampling distribution voor n = 5) Back to reality Z(n) = ( X(n) µ ) = X(n) ( ) µ σ/ n σ 2 /n Is dus bij benadering standaard normaal verdeeld (mits n 30). Leuk! maar meestal weten we σ helemaal niet... Oplossing: vervang σ door schatting, n.l. steekproefvariantie s. t(n 1) = ( X(n) µ ) = X(n) ( ) µ s/ n s 2 /n Statistiek 3: 11 / 50 t(n 1) heeft geen standaardnormale verdeling, maar een zgn. t-verdeling met n 1 vrijheidsgraden. Statistiek 3: 12 / 50

4 t-verdeling t-verdeling: plots Is een familie van verdelingen Lijkt op de standaardnormale verdeling in vorm en spreiding Heeft iets meer massa in de staarten (platter) Heeft één parameter: aantal vrijheidsgraden (Eng: degrees of freedom (df)) Voor df (praktisch: df 120) is de t-verdeling gelijk aan de standaardnormale verdeling Wordt soms ook Student verdeling genoemd. William Sealey Gosset ( ) Statistiek 3: 13 / 50 (Source: wikipedia) Statistiek 3: 14 / 50 t-verdeling: kansen 2.5% t(n) = X(n) µ ( s/ n ) heeft t-verdeling met n 1 vrijheidsgraden. Een aantal kansen kunnen in tabellen opgezocht worden: b.v. P= t*(df) 95% +t*(df) uit tabel +t*(df) 2.5% t-verdeling: speciale waarden Tabellen voor speciale kansen: t Table cum. prob t.50 t.75 t.80 t.85 t.90 t.95 t.975 t.99 t.995 t.999 t.9995 one-tail two-tails df Statistiek 3: 15 / 50 Statistiek 3: 16 / 50

5 t-verdeling: speciale waarden Toetsen Tabellen voor speciale kansen: Toetsen t Table cum. prob t.50 t.75 t.80 t.85 t.90 t.95 t.975 t.99 t.995 t.999 t.9995 one-tail two-tails df Statistiek 3: / Formuleer hypotheses Gemiddelde over andere universiteiten is bekend µ = 20 We vermoeden dat dit in Utrecht afwijkt Twee hypotheses: Let op: Nulhypothese H 0 : µ = 20 Alternatieve hypothese H 1 : µ 20 Research-hypothese = alternatieve hypothese (H 1 )! Hypotheses worden geformuleerd voor populatieparameters. Nulhypothese en alternatieve hypothese zijn: Uitsluitend Uitputtend Variabele X: aantal uren gamen per week Steekproef van n = 10 UU informatica studenten: 18, 25, 28, 21, 23, 18, 18, 26, 25, 21 We willen nu een uitspraak doen over het gemiddelde over de hele populatie van alle UU informatica studenten Procedure: 1 Formuleer hypotheses 2 Kies teststatistiek en leg criterium vast 3 Bereken teststatistiek uit steekproef 4 Neem beslissing over hypothese Statistiek 3: 18 / 50 Toetsen (t-toets voor één gemiddelde) 2. Kies teststatistiek en leg criterium vast Test statistiek: steekproefgemiddelde X Als H 0 waar is, wat zijn dan aannemelijke waarden voor X? X = 20? X = 18? X = 26? Wat zijn dan aannemelijke waarden voor t = X 20 (s/ n)? t = 0? t = 1? t = +5? Statistiek 3: 19 / 50 Statistiek 3: 20 / 50

6 Toetsen (t-toets voor één gemiddelde) 2a. Kies teststatistiek H 0 : µ = 20 H 1 : µ 20 Neem aan: Waarden in de steekproef zijn onafhankelijk, identiek verdeeld en normaal verdeeld. Als H 0 waar is, dan geldt dat X(10) 20 t = (s/ 10) met s 2 = SS df heeft t-verdeling met df = 9 vrijheidsgraden. = 10 i=1 (X i X) 2 9 Toetsen (t-toets voor één gemiddelde) 2B. Leg criterium vast Kies tevoren een gewenst significantieniveau α. (bv α = 0.05) Bepaal verwerpingsgebied (of kritieke gebied): Beslissingregel: Verwerp H 0, als t t crit of t +t crit Verwerp H 0 niet, als t crit < t < +t crit Hoe kiezen we t crit? We willen bijvoorbeeld α = 0.05, ofwel de kans dat we H 0 verwerpen terwijl deze waar is, is 5%. Kritieke gebied = gebied waarvoor kans op een waarneming onder H 0 gelijk is aan α. Statistiek 3: 21 / 50 Statistiek 3: 22 / 50 Toetsen (t-toets voor één gemiddelde) Toetsen (t-toets voor één gemiddelde) b.v. α=0.05 +t crit (df) uit tabel Leg criterium vast We willen α = 0.05, ofwel de kans dat we H 0 verwerpen terwijl hij waar is, is 5%. 95%=1 α Criterium wordt: Kies t crit zodat: 2.5%=α/2 2.5%=α/2 P(t t crit ) = α/2 = en P(t t crit ) = α/2 = voor t-verdeling met df = 9 vrijheidsgraden, -t crit (df) +t crit (df) dus α/2 = aan iedere kant ( two-tails α = 0.05) met tabel: t crit (df = 9) =?? Statistiek 3: 23 / 50 Statistiek 3: 24 / 50

7 Tabel voor de t-verdeling Toetsen (t-toets voor één gemiddelde) t Table cum. prob t.50 t.75 t.80 t.85 t.90 t.95 t.975 t.99 t.995 t.999 t.9995 one-tail two-tails df Bereken teststatistiek uit steekproef Bereken uit steekproef: Het steekproefgemiddelde X = 22.3 en s = 3.65, µ = 20, en n = 10. Bepaal de waarde van toetsinggrootheid. t = X(n) µ (s/ n) = t crit (df = 9) = dus (3.65/ 10) = = Neem beslissing? H 0 niet verwerpen Statistiek 3: 25 / 50 Statistiek 3: 26 / 50 Enkelzijdig/tweezijdig toetsen Eenzijdige t-toets voor één gemiddelde Bij welk steekproefgemiddelde zijn we het eens met H 0? Tweezijdig toetsen: Hypothese H0 : µ = 20 Alternatieve hypothese H1 : µ 20 Eenzijdig toetsen: Hypothese H0 : µ 20 Alternatieve hypothese H1 : µ > 20 Deze keuze moet je maken vóór je data gaat verzamelen! 1. Formuleer hypotheses Eenzijdig toetsen: H0 : µ 20 (aantal uren gamen per week) H 1 : µ > 20 Nog steeds geldt: t = X(n) µ (s/ n) heeft t-verdeling met df = 9 vrijheidsgraden. Statistiek 3: 27 / 50 Statistiek 3: 28 / 50

8 Student s t-verdeling Eenzijdige t-toets voor één gemiddelde b.v. α=0.05 t crit (df) uit tabel 2. Kies teststatistiek en leg criterium vast Nu beslissingsregel van de vorm: 95%=1 α Verwerp H 0, indien t obs t crit Verwerp H 0 niet, indien t obs < t crit 5%=α We willen de kans dat we H 0 verwerpen terwijl hij waar is is 5%. (Significantieniveau α) t crit (df) Criterium wordt: Kies t crit zodat P(t t crit ) = α =.05 voor t-verdeling met df = 9 vrijheidsgraden Tabel: t crit (df = 9) =??? Statistiek 3: 29 / 50 Statistiek 3: 30 / 50 Tabel voor de t-verdeling Toetsen (t-toets voor één gemiddelde, enkelzijdig) t Table cum. prob t.50 t.75 t.80 t.85 t.90 t.95 t.975 t.99 t.995 t.999 t.9995 one-tail two-tails df Bereken teststatistiek uit steekproef Bereken uit steekproef: Het steekproefgemiddelde X = 22.3 en s = 3.65, µ = 20, en n = 10. Bepaal de waarde van toetsinggrootheid. t = X(n) µ (s/ n) = (3.65/ 10) = = t crit (df = 9) = Nu is t obs > t crit, dus 4. Neem beslissing? H 0 wel verwerpen Statistiek 3: 31 / 50 Statistiek 3: 32 / 50

9 Samenvatting t-toets in SPSS H 0 H 1 H 0 verwerpen als Menu: Analyze Compare Means One Sample T Test Tweezijdig µ = µ 0 µ µ 0 t t crit of t t crit Eenzijdig (rechts) µ µ 0 µ > µ 0 t t crit Eenzijdig (links) µ µ 0 µ < µ 0 t t crit Statistiek 3: 33 / 50 Statistiek 3: 34 / 50 t-toets in SPSS: Output p-waarde of significantie De p-waarde of significantie ( Sig. in SPSS) van een gegeven steekproef uitkomst is Dus: de kans dat onder de nulhypothese de geobserveerde waarde van de toetsingsgrootheid wordt behaald of overschreden. Geeft aan hoe extreem de waarde van de toetsingsgrootheid is. t: toetsingsgrootheid t obs : waarde van de toetsingsgrootheid uit steekproef. p-waarde= P( t(df ) t obs ), dus tweezijdig! Eenzijdig: waarschijnlijkheid van geobserveerde waarde is helft van de p-waarde! Statistiek 3: 35 / 50 Statistiek 3: 36 / 50

10 p-waarde of significantie (2) p-waarde of significantie: voorbeeld Hoe kleiner de p-waarde hoe extremer de uitkomst. p-waarde kleiner dan gegeven grens (bijv 5%), dan significante uitkomst ofwel significant verschil met H 0, dus H 0 wordt verworpen. Tweezijdige t-toets aantal uren gamen per week UU informatica studenten Hypothese H0 : µ = 20 Alternatieve hypothese H1 : µ 20 Voorbeeld steekproef: 18, 25, 28, 21, 23, 18, 18, 26, 25, 21: tobs = = Mbv. Excel T.DIST.2T(1.991, df=9)= > 0.05 dus geen significante afwijking van H 0 Statistiek 3: 37 / 50 Statistiek 3: 38 / 50 Student s t-verdeling tweezijdig Fouten What could possily go wrong? Toestand H 0 waar H 1 waar p-waarde/2 1 - p-waarde p-waarde/2 OK Type II fout t obs =1.991 Beslissing niet verwerpen H 0 Kans = 1 α = betrouwbaarheid Type I fout OK verwerp H 0 Kans = α = significantieniveau Statistiek 3: 39 / 50 Statistiek 3: 40 / 50

11 Check! t-toets voor één gemiddelde Q: Als je het significantieniveau α verkleint, dan neemt het kritieke gebied toe? A: Fout. Q: Als je het significantieniveau α verkleint, dan neemt de kans op een type I fout toe? A: Fout. ENG: One-sample t-test. Vergelijking van één steekproefgemiddelde met een norm (een van te voren bepaald gemiddelde). σ uit populatie is niet bekend en het steekproefaantal is klein (n < 120). Meetwaarden onafhankelijk en identiek normaal verdeeld (met zelfde gemiddelde en variantie). Oplossing: t-verdelingen (vrijheidsgraden spelen een rol) t obs = X(n) µ (s/ n) t-table: zie boek, online, Excel, calculator... Statistiek 3: 41 / 50 Statistiek 3: 42 / 50 Betrouwbaarheidsinterval Betrouwbaarheidsinterval: voorbeeld Stel: ik meet steekproefgemiddelde X(n) = 23.4 Kan ik nu met 95% betrouwbaarheid zeggen in welk gebied het onbekende populatiegemiddelde µ ligt? 95% betrouwbaarheidsinterval: [ X(n) s t crit ; X(n) + s ] t crit n n waarbij t crit de kritieke waarde is voor α = 0.05 bij df = n 1. Student Rick Mark Tom Ken Edwin # uren gamen per week X = 21 n = 5 s 2 = 9 t crit (df = 4) = voor α = % betrouwbaarheidsinterval [ ; ] = 5 5 [ ] ; Statistiek 3: 43 / 50 Statistiek 3: 44 / 50

12 Betrouwbaarheidsinterval (Interpretatie) Betrouwbaarheidsinterval Toetsen H 0 : µ = µ 0 wordt verworpen in tweezijdige t-toets met significantie α (1 α)100% betrouwbaarheidsinterval, b.v. α = NIET: De echte waarde van µ valt met kans 95% binnen het interval WEL: Als we vaker een steekproef nemen met 5 studenten en telkens de bijbehorende betrouwbaarheidsintervallen uitrekenen, dan valt de echte waarde van µ binnen 95% van deze intervallen. dan en slechts dan als µ 0 ligt buiten het (1 α) 100% betrouwbaarheidsinterval Voorbeeld in SPSS: Statistiek 3: 45 / 50 Statistiek 3: 46 / 50 Speciaal geval t-toets: toetsen van correlatie Toetsen van correlatie (2) Onderzoeksvermoeden: Er bestaat een correlatie tussen aantal geconsumeerde blikjes cola en regels gemaakte code: Variabelen: X: aantal geconsumeerde blikjes cola Y: aantal geproduceerde regels code Dit kan getoetst worden met een t-toets: 1. Formuleer hypothese H 0 : ρ = 0 H 1 : ρ 0. (ρ = correlatie-coëfficient cola-code in populatie) 2. Kies teststatistiek en leg criterium vast Kies α = Gebruik de volgende t-statistiek: met t = r n 2 1 r 2 r = correlatie cola-code in steekproef n = steekproefgrootte Eigenschap: t heeft t-verdeling met n 2 vrijheidsgraden. Statistiek 3: 47 / 50 Statistiek 3: 48 / 50

13 Toetsen van correlatie (3) Gedaan: 3. Bereken teststatistiek uit steekproef In College 1 hadden we een steekproef met: Dus: n = 5 r = Dus 3 t = = t crit (df = 3) = Neem beslissing: Verwerp H 0. De correlatie tussen cola en code wijkt significant af van 0. Centrale Limietstelling T-verdeling Toetsen van hypothese: One-sample T-toets. Volgende week: Meer T-toetsen Chi-kwadraat toetsen Statistiek 3: 49 / 50 Statistiek 3: 50 / 50