toetsende statistiek deze week: wat hebben we al geleerd? Frank Busing, Universiteit Leiden

Transcriptie

1 toetsende statistiek week 1: kansen en random variabelen week 2: de steekproevenverdeling week 3: schatten en toetsen: de z-toets week 4: het toetsen van gemiddelden: de t-toets Moore, McCabe, and Craig. Introduction to the Practice of Statistics Chapter 7: Inference for Distributions 7.1: Inference for the Mean of a Population 7.2: Comparing Two Means week 5: het toetsen van varianties: de F-toets week 6: het toetsen van tellingen: de χ 2 -toets week 7: verdelingsvrije toetsen Frank Busing, Universiteit Leiden 1/36 deze week: wat hebben we al geleerd? de one-sample z-toets verschillende alternatieve hypothese vormen: 1- (links of rechts) en 2-zijdig de relatie tussen toetsstatistiek en steekproevenverdeling van een statistiek de criterium waarde voor α (α = 0.05) de relatie tussen z en p tegenover z en α kennis en begrip van het betrouwbaarheidsinterval de relatie tussen betrouwbaarheidsinterval en 2-zijdig toetsen 2/36

2 toetsen van gemiddelde een tekortkoming van de z-test is dat we de standaarddeviatie van de populatie σ moeten weten om de standaarddeviatie van de steekproevenverdeling σ/ n uit te rekenen echter, in de praktijk is σ meestal onbekend we kunnen dus geen z = x µ σ/ n uitrekenen, maar wel t = x µ s/ n we schatten de standaarddeviatie van de populatie σ met de standaarddeviatie van de steekproef s dus we schatten de standaarddeviatie van de steekproevenverdeling van x, σ/ n met de standaardfout voor het gemiddelde van de steekproef 1 SE x = s n de standaardfout wordt doorgaans aangeduid met SE, afkorting voor standard error 3/36 t-verdeling familie het schatten van de standaarddeviatie van x met de standaardfout SE x = s/ n gaat beter voor een grotere n (denk aan de wet van de grote getallen) naarmate n groter wordt, wordt s een betrouwbaardere schatter van σ tot die tijd gebruiken we een andere steekproevenverdeling van x: de t-verdeling de t-verdeling is eigenlijk een hele familie van verdelingen elke lid van de familie wordt aangeduid met zijn vrijheidsgraden: df 2 voor elke aantal vrijheidsgraden is er een aparte t-verdeling het aantal vrijheidsgraden hangt af van steekproefgrootte n df = degrees of freedom 4/36

3 t-verdeling versus standaard normaal 1 t-verdeling is afhankelijk van het aantal vrijheidsgraden (df) 2 door de dikkere staart (bij kleine df) is de t-toets convervatiever 3 als df dan t(df) N(0,1) 5/36 t-tabel Table entry for pand C is the critical value t * with probability p lying to its right and probability C lying between t * and t *. t* Probability p TABLE D t distribution critical values Upper-tail probability p df /36

4 t-tabel TABLE D t distribution critical values Upper-tail probability p df z * % 60% 70% 80% 90% 95% 96% 98% 99% 99.5% 99.8% 99.9% Confidence level C 7/36 de one-sample t-toets het toetsen van één gemiddelde met de t-toets andere steekproefgegevens: n = 10, x = 9.45 en s = stappenplan one-sample t-toets: 1 hypothese H 0 : µ = 9 en H a : µ 9 2 steekproevenverdeling t verdeeld met df = n 1 = 10 1 = 9 3 toetsingsgrootheid t = (x µ)/(s/ n) = (9.45 9)/ = verwerpingsgebied α = 0.05,df = 9,t = (kolom α = 0.025) 5 statistische conclusie t = < = t en H 0 wordt niet verworpen 6 inhoudelijke conclusie eekhoorns verzamelen evenveel voedsel na onthouding merk op dat deze tweezijdige toetsing H 0 niet verwerpt maar dat een éénzijdige toetsing dat wel gedaan zou hebben want t = voor α = 0.05 en t = ligt verder van nul 8/36

5 SPSS: one-sample t-test results One-Sample Statistics N Mean Std. Deviation Std. Error Mean grams / 10 One-Sample Test Test Value = 9 95% Confidence Interval Mean of the Difference t df Sig. (2-tailed) Difference Lower Upper grams ( )/ Gemiddeld genomen verzamelen uitgehongerde eekhoorns (M=9.45, SE=.2212) niet meer of minder dan 9 gram voedsel, t(9) = 2.034,p = /36 conclusie one-sample t-toets de one-sample t-toets is gelijk aan de one-sample z-toets behalve dat de standaarddeviatie van de populatie σ geschat wordt met de standaarddeviatie van de steekproef s en de standaarddeviatie van de steekproevenverdeling van x met SE x = s/ n en dat daardoor de standaard normaal verdeling N(0, 1) vervangen wordt door de t-verdeling t(df) 10/36

6 voorbeeld we verzamelen 12 proefpersonen met extreme angst voor spinnen elke proefpersoon krijgt een echte spin te zien en dezelfde spin op een foto we meten de angst van de proefpersoon na elke spin (twee momenten) de onderzoeker verwacht meer angst voor de echte spin dan voor de foto ervan 3 uit: William Wallace Denslow (1902). Denslow s Mother Goose. 11/36 verschilscores twee afhankelijke observaties kunnen worden verkregen 1 per paar, gepaard op bepaalde eigenschappen bijvoorbeeld: medicijn met controle op sexe en leeftijd 2 per persoon, gemeten op verschillende momenten bijvoorbeeld: vooruitgang studenten bij toetsende statistiek in het spinnen-angst-voorbeeld zijn twee gepaarde observaties: de foto- en de echte spinnenangst van één en dezelfde proefpersoon het verschil tussen de twee metingen wordt getoetst er wordt dus eerst een verschilscore bepaald: d i = x i1 x i2 (echt - foto) vervolgens wordt er een one-sample t-toets uitgevoerd op de verschilscores d de µ onder H 0 is (meestal) nul, dus H 0 : µ = µ 1 µ 2 = 0 ofwel H 0 : µ 1 = µ 2 12/36

7 de t-toets voor afhankelijke steekproeven het toetsen van twee gemiddelden uit twee afhankelijk steekproeven steekproefgegevens: n = 12, d = 7.0 en s = stappenplan paired-samples t-toets: 4 1 hypothese H 0 : µ = 0 en H a : µ > 0 2 steekproevenverdeling t verdeeld met df = n 1 = 11 3 toetsingsgrootheid t = d/(s/ n) = 7.0/(9.807/3.464) = verwerpingsgebied α = 0.05,df = 11,t = statistische conclusie t = > = t en H 0 wordt verworpen 6 inhoudelijke conclusie er is een verschil: een echte spin geeft meer angst dan een foto ervan paired-samples t-toets = dependent-samples t-toets 13/36 SPSS: one-sample t-test results One-Sample Statistics N Mean Std. Deviation Std. Error Mean diff One-Sample Test / 12 Test Value = 0 Sig. (2- Mean 95% Confidence Interval of the Difference t df tailed) Difference Lower Upper diff ( )/ merk op dat SPSS de p-waarde geeft voor tweezijdige toetsing: Sig. (2-tailed) voor éénzijdige toetsing deel je deze waarde door 2: 0.031/2 = /36

8 SPSS: paired-samples t-test results Paired Samples Statistics Pair 1 real picture Mean N Std. Deviation Std. Error Mean Paired Samples Test Paired Differences Std. Error Mean 95% Confidence Interval of the Difference Std. Sig. (2- Mean Deviation Lower Upper t df tailed) Pair 1 real - picture / 12 ( )/ Gemiddeld genomen ervaren proefpersonen significant meer angst voor echte spinnen (M = 47.00,SE = 3.18) dan voor foto s van spinnen (M = 40.00,SE = 2.68), t(11) = 2.473,p = /36 twee onafhankelijke steekproeven twee situaties waarin twee onafhankelijke steekproeven ontstaan: 1 vanuit 1 populatie (bijvoorbeeld de studenten populatie): verzamel een aantal proefpersonen verdeel de proefpersonen at random over twee groepen geef elke groep zijn eigen interventie meet het gemiddelde voor elke groep toets het verschil in gemiddelden 2 vanuit 2 populaties (bijvoorbeeld een mannen en vrouwen populatie): trek twee random steekproeven, één uit elke populatie meet het gemiddelde voor elke groep toets het verschil in gemiddelden 16/36

9 two-samples t-toets de toetsstatistiek voor 2 onafhankelijke steekproeven is t-toetsstatistiek t = x 1 x 2 (µ 1 µ 2 ) standaardfout het verschil tussen de steekproefgemiddelden x 1 x 2 wordt vergeleken met het te verwachten verschil tussen de populatiegemiddelden µ 1 µ 2 onder H 0 de nul hypothese is meestal H 0 : µ 1 = µ 2, zodat (µ 1 µ 2 ) wegvalt de standaardfout is een verhaal apart 17/36 standaardfout indien σ 1 σ 2 als σ 1 en σ 2 niet ongeveer gelijk zijn (vuistregel: σ 1 σ 2 als s 1 en s 2 meer dan factor 2 van elkaar verschillen) dan is de standaardfout van de steekproevenverdeling van x 1 x 2 standaardfout indien σ 1 σ 2 s 2 1 SE x1 x 2 = + s2 2 n 1 n 2 begrip: de variantie van het verschil 1 tussen 2 observaties is σ 2 1 plus σ2 2 2 tussen de som van n 1 plus n 2 observaties is n 1 σ 2 1 plus n 2σ tussen de gemiddelden is dan σ 2 1 /n 1 plus σ 2 2 /n 2 het aantal vrijheidsgraden is hier (conservatief) df = min(n 1 1,n 2 1) dus de kleinste waarde van n 1 1 en n SPSS berekent het aantal vrijheidsgraden iets nauwkeuriger (zie MM&C, p.441) 18/36

10 standaardfout indien σ 1 = σ 2 als σ 1 en σ 2 gelijk zijn dan is de t-verdeling exact er is dan een gecombineerde schatter (pooled estimator) voor de variantie pooled variance estimator s 2 p = (n 1 1)s 2 1 +(n 2 1)s 2 2 n 1 +n 2 2 de standaardfout van de steekproevenverdeling van x 1 x 2 is nu standaardfout indien σ 1 = σ 2 s 2 p SE x1 x 2 = + s2 p 1 = s p + 1 n 1 n 2 n 1 n 2 het aantal vrijheidsgraden is hier df = n 1 +n /36 de t-toets voor onafhankelijke steekproeven het toetsen van twee gemiddelden uit twee onafhankelijk steekproeven steekproefgegevens: n 1 = 12,x 1 = 47,s 1 = n 2 = 12,x 2 = 40,s 2 = aanname σ 1 σ 2 geeft SE x1 x 2 = / /12 = stappenplan independent-samples t-toets voor σ 1 σ 2 : 1 hypothese H 0 : µ 1 = µ 2 en H a : µ 1 > µ 2 2 steekproevenverdeling t verdeeld met df = 12 1 = 11 3 toetsingsgrootheid t = (x 1 x 2 )/SE = (47 40)/4.163 = verwerpingsgebied α = 0.05,df = 11,t = statistische conclusie t = < = t en H 0 wordt niet verworpen 6 inhoudelijke conclusie geen verschil tussen echte en foto spinnenangst 20/36

11 de t-toets voor onafhankelijke steekproeven het toetsen van twee gemiddelden uit twee onafhankelijk steekproeven steekproefgegevens: n 1 = 12,x 1 = 47,s 1 = n 2 = 12,x 2 = 40,s 2 = aanname σ 1 = σ 2 geeft s 2 p = ( )/22 = 104 SE x1 x 2 = 104 1/12+1/12 = stappenplan independent-samples t-toets voor σ 1 = σ 2 : 1 hypothese H 0 : µ 1 = µ 2 en H a : µ 1 > µ 2 2 steekproevenverdeling t verdeeld met df = = 22 3 toetsingsgrootheid t = (x 1 x 2 )/SE = (47 40)/4.163 = verwerpingsgebied α = 0.05,df = 22,t = statistische conclusie t = < = t en H 0 wordt niet verworpen 6 inhoudelijke conclusie geen verschil tussen echte en foto spinnenangst 21/36 SPSS: independent-samples t-test results Group Statistics anxiety group N Mean Std. Deviation Std. Error Mean real picture Independent Samples Test ( / /12) anxiety Equal variances assumed Equal variances not assumed Levene's Test for Equality of Variances t-test for Equality of Means Sig. (2- Mean Std. Error 95% Confidence Interval of the Difference F Sig. t df tailed) Difference Difference Lower Upper ( )/4.163 Gemiddeld genomen ervaren proefpersonen meer angst voor echte spinnen (M = 47.00,SE = 3.18) dan voor foto s van spinnen (M = 40.00,SE = 2.68). Dit verschil was niet significant t(22) = 1.681,p = /36

12 between- versus within-subject designs kies voor within-subjects designs (dependent samples of paired-samples) 1 de individuele variabiliteit is verwijderd uit de standaardfout (kleinere s) dus meer power 2 er zijn minder proefpersonen nodig (maar wel wat langer) kies voor between-subjects designs (independent samples) 1 geen order effects (geen counterbalancing nodig) 2 geen carry-over effect (geen tussentijd nodig) 23/36 afhankelijke versus onafhankelijke t-toets vergelijking van de twee two-samples t-toetsen op dezelfde gegevens afhankelijke steekproef (paired-samples t-toets) 1 hypothese H 0 : µ = 0 en H a : µ > 0 2 steekproevenverdeling t verdeeld met df = n 1 = 11 3 toetsingsgrootheid t = d/(s/ n) = 7.0/2.831 = verwerpingsgebied α = 0.05,df = 11,t = statistische conclusie t = > = t en H 0 wordt wel verworpen 6 inhoudelijke conclusie wel verschil tussen echte en foto spinnenangst onafhankelijke steekproef (independent samples t-toets) 1 hypothese H 0 : µ 1 = µ 2 en H a : µ 1 > µ 2 2 steekproevenverdeling t verdeeld met df = = 22 3 toetsingsgrootheid t = (x 1 x 2 )/SE = 7.0/4.163 = verwerpingsgebied α = 0.05,df = 22,t = statistische conclusie t = < = t en H 0 wordt niet verworpen 6 inhoudelijke conclusie geen verschil tussen echte en foto spinnenangst een dependent-samples t-toets heeft meer power door een kleinere standaardfout 24/36

13 samenvatting: de t-toets 1 one-sample t-toets: t = (x µ)/(s/ n) 2 two-samples t-toets: 1 dependent samples t-toets: t = d/(s/ n), waarbij d = x 1 x 2 2 independent samples t-toets: 1 unequal variances: t = (x 1 x 2 )/ s 2 1 /n 1 +s 2 2 /n 2 2 equal variances: t = (x 1 x 2 )/ s 2 p/n 1 +s 2 p/n 2 25/36 vorige week een betrouwbaarheidsinterval zegt iets over de nauwkeurigheid van een schatting we schatten het populatiegemiddelde met het steekproefgemiddelde (natuurlijk) is deze schatting niet altijd precies goed, maar beter wanneer de spreiding in de populatie kleiner is de steekproef groter is het betrouwbaarheidsniveau wordt aangegeven met C een betrouwbaarheidsniveau van C = 0.95 geeft 95% zekerheid dat het gemiddelde van de populatie in het interval ligt een betrouwbaarheidsniveau van C = 0.50 geeft 50% zekerheid dat het gemiddelde van de populatie in het interval ligt: dit zal een veel kleiner interval zijn bij herhaald steekproef trekken ligt µ in 100C% van de gevallen in het interval we zijn bij één interval dus 100C% zeker dat µ in het interval ligt 26/36

14 one-sample betrouwbaarheidsinterval voor µ betrouwbaarheidinterval indien σ bekend betrouwbaarheidsinterval = puntschatting ± foutenmarge = x±z σ/ n x is het gemiddelde van de steekproef, de schatting van µ z wordt bepaald door het betrouwbaarheidsniveau C σ/ n is de spreiding van de steekproevenverdeling echter, in de praktijk is σ meestal onbekend we schatten de standaarddeviatie van de populatie σ met de standaarddeviatie van de steekproef s betrouwbaarheidinterval indien σ onbekend betrouwbaarheidsinterval = puntschatting ± foutenmarge = x±t s/ n er zijn nu een aantal varianten mogelijk... 27/36 overzicht betrouwbaarheidsintervallen betrouwbaarheidsinterval = puntschatting ± foutenmarge puntschatting one sample x two samples x 1 x 2 betrouwbaarheidsniveau one sample two samples σ 1 σ 2 σ 1 = σ 2 σ bekend z z z σ onbekend t (n 1) t (min(n 1 1,n 2 1)) t (n 1 +n 2 2) standaardfout one sample two samples σ 1 σ 2 σ 1 = σ 2 σ bekend σ/ n σ 2 1 /n 1 +σ 2 2 /n 2 σ 2 1 /n 1 +σ 2 2 /n 2 σ onbekend s/ n s 2 1 /n 1 +s 2 2 /n 2 s 2 p/n 1 +s 2 p/n 2 waarbij s 2 p = [ (n 1 1)s 2 1 +(n 2 1)s 2 2] /(n1 +n 2 2) 28/36

15 voorbeeld wat is het 95% betrouwbaarheidsinterval voor µ van onze nieuwe uitgehongerde eekhoorns? steekproefgegevens: n = 10, x = 9.45 en s = er is slechts één steekproef 2 σ is niet bekend 3 betrouwbaarheidsniveau C = 0.95 t = (α/2 = 0.025, df = 9) CI µ = x±t s n = 9.45± = 9.45± het 95% betrouwbaarheidsinterval voor µ is [8.95, 9.95] 29/36 SPSS: voorbeeld het 95% betrouwbaarheidsinterval voor µ is [8.95, 9.95] CI µ = x±t s n = 9.45± = 9.45± SPSS bepaalt in deze gevallen het betrouwbaarheidsinterval voor µ min testwaarde CI µ 9.0 = (x 9.0)±t s n = ( )± = 0.45± het 95% betrouwbaarheidsinterval voor µ 9.0 is [ 0.05, 0.95] 30/36

16 SPSS: one-sample CI results CI µ 9.0 = ( )± = 0.45± [ 0.05,0.95] One-Sample Statistics N Mean Std. Deviation Std. Error Mean grams One-Sample Test Test Value = 9 95% Confidence Interval Mean of the Difference t df Sig. (2-tailed) Difference Lower Upper grams x /36 voorbeeld wat is het 95% betrouwbaarheidsinterval voor µ 1 µ 2 van de foto- en echte angst voor spinnen? steekproefgegevens: n 1 = 12,x 1 = 47,s 1 = n 2 = 12,x 2 = 40,s 2 = er zijn twee steekproeven 2 σ is niet bekend 3 s 1 s 2 s 2 p = [ (n 1 1)s 2 1 +(n 2 1)s 2 2] /(n1 +n 2 2) = betrouwbaarheidsniveau C = 0.95 t = (α/2 = 0.025, df = 22) CI µ1 µ 2 = (x 1 x 2 )±t s 2 p/n 1 +s 2 p/n 2 = (47 40)± / /12 = 7±8.634 het 95% betrouwbaarheidsinterval voor µ 1 µ 2 is [ 1.634,15.634] 32/36

17 SPSS: independent-samples CI results CI µ1 µ 2 = (47 40)± = 7±8.634 [ 1.634,15.634] Group Statistics anxiety group N Mean Std. Deviation Std. Error Mean real picture Independent Samples Test x anxiety Equal variances assumed Equal variances not assumed Levene's Test for Equality of Variances t-test for Equality of Means Sig. (2- Mean Std. Error 95% Confidence Interval of the Difference F Sig. t df tailed) Difference Difference Lower Upper nul ligt in het interval. wat betekent dat? /36 aannamen we schatten de standaarddeviatie van x met de standaardfout SE x = s/ n naarmate n groter wordt, wordt s een betere schatter van σ (ongeacht verdeling) maar hoe groot is groot genoeg? 1 de steekproef komt uit een populatie met een normale verdeling t is t -verdeeld met df = n 1 bij gelijke n is 2 keer 5 observaties al voldoende 2 de steekproef komt uit een populatie zonder normale verdeling n < 15: probleem n 15: symmetrisch en geen uitbijters: t bij benadering t -verdeeld n 40: t bij benadering t -verdeeld n groot: t bij benadering normaal verdeeld conclusie: controleer n en de verdeling van de (verschil)scores (per groep) 34/36

18 deze week: wat hebben we geleerd? de one-sample t-toets de two-samples t-toets voor on- en afhankelijke steekproeven het verschil tussen een t-toets voor on- en afhankelijke steekproeven het begrip gepoolde variantie de verschillende standaardfouten voor de independent samples t-toets betrouwbaarheidsinterval voor one- en two-samples z- en t-toets aannamen voor de t-toets 35/36 deze week: wat moeten we nog leren? het uitvoeren en beoordelen van een one-sample t-toets het uitvoeren en beoordelen van een two-samples t-toets voor zowel afhankelijke als onafhankelijke steekproeven het uitvoeren en beoordelen van een two-samples z-toets het bepalen en beoordelen van een one-sample betrouwbaarheidsinterval en een two-samples betrouwbaarheidsinterval voor bekende en onbekende σ 36/36