Toetsende Statistiek 2011

Transcriptie

1 Toetsende Statistiek 011 NB Volgt op Inleiding M&T. 7 weken college, werkgroep en practicum. In week 8 (eind december) SPSS toets + Tentamen. Week topic geen stof 1 Kansen Steekproevenverdeling Weibull distributions 3 Schatten en Toetsen 4 Toetsen van Gemiddelden 5 Power en F toets 6 Frequentieverdelingen Meta analysis 7 Non-Parametrische toetsen (op CD) Eind januari tweede tentamengelegenheid. 1

2 Toetsende Statistiek, Week 1. Kansmodellen & Toevalsvariabelen Christiaan Huygens (1) M,M&C, Ch 4, Probability: Study of 4.1 Randomness 4. Probability Models 4.3 Random Variables 4.4 Mean and Variances of Random Variables 4.5 General Probability Rules (1) Clerion 1679 foto Verduin () JF Dreux de Radier (1755, deel 5) Jacob Bernoulli () Al-hoewel in de spelen daer alleen het geval plaets heeft, de uytkomsten onseecker zijn, soo heeft nochtans de kansse die yemandt heeft om te winnen of te verliezen, haer seeckere bepaling. Van Rekeningh in Spelen van Geluck (1660)

3 Waarom is Toetsende Statistiek nodig in de Psychologie? Psychologie wil verder kijken dan het individuele geval: onzekerheid. De toetsende (inferentiële) statistiek probeert zekere conclusies op basis van onzekere informatie te trekken, door af te vragen: "Hoe vaak geeft deze methode (berekening, gevolgtrekking) een juist antwoord als ik haar heel vaak zou herhalen?" Deze vraag kan worden beantwoord als er een toevalselement in de methode zit, want we weten hoe het toeval zich gedraagt. random sampling (aselect steekproeven trekken) Toeval door randomized experiment (of quasi-experiment) Men kan grip krijgen op toevalsverschijnselen in persoon & observatie door toeval toe te voegen! 3

4 Wat is een Toevalsverschijnsel? Een toevalsverschijnsel (random phenomenon) heeft uitkomsten die per keer niet te voorspellen zijn, maar bij herhaling een regelmatige verdeling van voorkomen vertonen. Voorbeeld 1. Verlegenheid: Groep studenten wordt met Stanford Shyness Survey beoordeeld op verlegenheid. In willekeurige volgorde: V N N V V N N N V N V N V N N N V Voorbeeld. depressie: bepaal de BDI-II score na afloop van de therapie voor 5 cliënten: 15, 3, 17, 0, 5 4

5 Law of Large Numbers: Wet van de grote getallen. Proportie succes voor eerste n worpen Aantal worpen (n) Hoe meer observaties, des te stabieler de conclusie op populatie niveau, ook al zijn individuele uitkomsten onvoorspelbaar. Steekproeven zijn relatief klein ten opzichte van populaties. Tversky + Kahneman: Law of Small Numbers, 1971: psychologisch verschijnsel, zonder wiskundige basis. 5

6 Wat is een Kans? De kans op gebeurtenis A = proportie van optreden A in zeer groot aantal herhalingen van het toevalsproces Dit suggereert dat het om empirisch begrip gaat is omstreden Hoe herken je of iets toeval (random) is? Onvoorspelbaarheid wordt meestal vertaald naar onafhankelijkheid NB: 1 Independent trials (herhaling van dezelfde proef op ander individu uit dezelfde groep): kans op uitkomst van trial A hangt niet af van uitkomst andere trial B. Independent events (onafhankelijke gebeurtenissen): P(gebeurtenis A) hangt niet af van al dan niet optreden van gebeurtenis B. 1 is speciaal geval van 6

7 Basismodel voor Toevalsprocessen: Kansmodel Een toevalsproces bestaat uit herhalingen met verschillende uitkomsten (outcomes, O). Ieder kansmodel is opgebouwd uit drie delen: 1 Uitkomstenruimte (steekproefruimte, sample space, S) = opsomming van alle mogelijke uitkomsten Gebeurtenis (event, E) = deelverzameling van de uitkomstenruimte (dus ook één uitkomst) 3 Kans (waarschijnlijkheid, probability, P) = getal dat aan uitkomst of gebeurtenis wordt toegekend en dat aan een aantal regels moet voldoen. 7

8 Uitkomstenruimte & Gebeurtenissen: Voorbeeld Vraag een willekeurige student naar een examencijfer. S = {1,... 10} E1 = {1,, 3, 4, 5} complementair E1 C = {? } E = {, 4, 6, 8, 10} complementair E C = {? } E3 = {6, 8, 10} complementair E3 C = {? } Voorlopige conclusie: uitkomsten komen overeen met waarden (categorieën, nivo s) van gemeten variabele, gebeurtenissen met waarden van gehercodeerde variabele. 8

9 Regels waaraan Kansen moeten voldoen Kans op gebeurtenis A is a reëel getal P(A), zodanig dat: 1. 0 P(A) 1.. P(S) = 1, met S de hele uitkomstenruimte 3. Optellen voor disjuncte gebeurtenissen (events A en B): P(A OF B) = P(A) + P(B), 4. Complement: ihgv een complementaire gebeurtenis A c geldt P(A c ) = 1 P(A). 5. Produkt voor onafhankelijke gebeurtenissen: P(A EN B) = P(A) P(B) (ook voor A c en B c ). Opgesteld door Kolmogorov (1933). 9

10 Regel 3 in meer detail 3* Optellen voor (eindig aantal) uitkomsten (outcomes O 1 en O ) P(O 1 OF O ) = P(O 1 ) + P(O ). 3** Optellen voor vereniging van disjuncte gebeurtenissen A, B, C P(A OF B OF C) = P(A) + P(B) + P(C), 3*** Algemene rekenregel voor vereniging van gebeurtenissen P(A OF B) = P(A) + P(B) P(A EN B) Voorbeeld:? (zie volgende sheet) 10

11 Voorbeeld Stel: P(A)=0.0, P(B)=0.15. Wat is P(A OF B) als P(A EN B)=0? Wat is P(A OF B) als P(A EN B)=0.05? 11

12 Regel 5. Produktregel voor onafhankelijke gebeurtenissen: P(A EN B) = P(A) P(B) (ook voor A c en B c ). Toelichting: independent events; de uitkomstenruimte bestaat uit alle combinaties van typen gebeurtenissen: voorbeeld: verlegen A & niet-verlegen A c, mannen B & vrouwen B c. geslacht verlegen ja nee Totaal man vrouw Totaal Dus gebeurtenissen A en B zijn niet disjoint (waarom niet?); onafhankelijkheid patroon van proportionaliteit in kansen, alsof je aselekt met teruglegging uit aparte groepen trekt. 1

13 Voorwaardelijke Kansen (conditional probabilities) Voldoen aan eisen van de gewone kans, maar het domein wordt verkleind: we kijken naar mensen die aan een voorwaarde voldoen. Voorbeeld: Screening van neurotische patienten op flauwvallen Symptoom Neurotic patients Control group Totaal Nee Ja Totaal P(Symp=Ja) = 10/400 = 0.30 P(Neur) = 40/400 = 0.10 P ( B A) = P(Symp=Ja EN Neur) =30/400=0.075 P(Symp=Ja Neur) = 30/40 = 0.75 P( A EN B ) P( A) Conclusie: Marginale P <> voorwaardelijke P P ( EN S P( N N ) ) = 13

14 Boomdiagrammen verbinden Voorwaardelijke Kansen Als we de formule omschrijven, krijgen we de produktregel: P(A EN B) = P(A) P(B A) Deze kansen horen bij de uiteinden van een boomdiagram. S 0.5 N: P(S EN N) = 0.30 * 0.5 = Gehele groep N C N: P(S C EN N) = 0.70 * = 0.05 P(N S) = 30/10 =.5 P(N S C )= 10/80 =.0357 S C N C 14

15 Tweede definitie Onafhankelijkheid Twee variabelen zijn onafhankelijk als P(B A) = P(B). Dus wordt P(A EN B) = P(A) P(B A) = P(A) P(B). Dus: er is onafhankelijkheid als de conditionele kansen gelijk zijn aan de marginale kansen. Symptoom Neurotic patients Control group Totaal Nee Ja Totaal Rij- en kolom-marginalen gelijk aan die van data Alle rijen en kolommen proportioneel aan elkaar P(S N) = 0.03/0.1 = 0.3 P(S C N) = 0.07/0.1 =

16 De Regel van Bayes (simpel) De regel van Bayes legt een verband tussen de a priori kans en de a posteriori kans op een kenmerk. P( A B) = P( B A) P( A) P( B) Voorbeeld: Diagnostische waarde van een symptoom (sheet 1). a priori: P(Neur) = 0.10 a posteriori: P(Neur Sympt) = P(Sympt Neur)*P(Neur) / P(Sympt) = 0.75 * 0.10 / 0.30 = 0.5 NB de a priori kansen eigenlijk niet uit de steekproef nemen, maar uit de populatie. 16

17 Toevalsvariabelen (Random Variables) Wat is er toevallig aan een toevalsvariabele? Onderzoekssituatie: Populatie: bijv. gezinnen met kinderen, trek steekproeven van 5 gezinnen uit populatie sample samenstelling sample X = # jong./gez. Y = # meis./gez. 1 {(JJM), (MM), (J), (MJM), (JJMJ)} {(JM), (MJM), (JJ), (MMMMJ), (M)} {(JJ), (MMJJ), (JM), (JMJM), (JJJJ)} NB. binnen een gezin is # jongens en # meisjes niet toevallig! Toevalsvariabele: variabele die als waarden numerieke uitkomsten heeft, die zijn verkregen uit een steekproef of een ander toevalsproces 17

18 Discrete Toevalsvariabelen: Tellingen of Hoeveelheden (Rates) Eindig aantal waarden in gegeven interval. Kansverdeling is lijst waarden + bijbehorende kansen. Twee manieren om een kanshistogram te lezen: ❶ Waarde Y-as (dichtheid = soortelijke massa = # elem. per unit) ❷ Oppervlakte (kans = relatieve omvang). Kansverdeling Kanshistogram Uitkomst kans Kans op interval = oppervlakte onder de trap = som van staven in interval. Bijv. P(X>)? P(X) Uitkomst X 18

19 Continue Toevalsvariabelen: Gemiddelden of andere statistieken Oneindig veel mogelijke waarden in een bepaald interval (NB. dit is een model). Kansverdeling d.m.v. dichtheidscurve (density). dichtheid Event = interval P (interval) = oppervlakte onder dichtheidscurve t.o.v. het totaal. Als intervallen niet overlappen kan men kansen optellen. P(A) Event A Onderscheid outcomes/events nu cruciaal! 19

20 Verwachte Waarde van een Toevalsvariabele Zoals kansen geïdealiseerde beschrijving zijn van proporties die op de lange duur worden verkregen, zo is de verwachte waarde (mean) het lange duur gemiddelde van een toevalsvariabele. µ X = x 1 p 1 + x p +L+ x k p k = x i p i i Omdat de p s meestal ongelijk zijn maar wel optellen tot 1, is µ een gewogen gemiddelde. Opmerkingen µ is een modelmatig equivalent van x, en hoeft niet als datawaarde voor te komen. verwachte waarde modale waarde. om µ te bepalen bij continue X is integreren nodig (doen we niet). 0

21 Voorbeeld: Verwachte Waarde van Aantal Mannen & Vrouwen populatie van 5 personen: 3 vrouwen (v 1, v, v 3 ) en mannen (m 1, m ). Er zijn 10 mogelijke aselecte steekproeven van, zonder teruglegging, en met gelijke kansen: uuitkomst v 1 v v 1 v 3 v 1 m 1 v 1 m v v 3 v m 1 v m v 3 m 1 v 3 m m 1 m #v #m # mannen 0 1 kans (#mannen) Wat is verwachte waarde van het # mannen? Wat is verwachte waarde van het # vrouwen? 1

22 Wet van de Grote Getallen, versie Niet alleen proporties, maar ook gemiddelden x stabiliseren bij grote steekproefgrootte n (voorbeeld hier: gemiddelde lengte jonge vrouwen in meters): Gemiddelde over eerste n observaties Aantal obervaties (n)

23 Verwachte waarde van Getransformeerde Variabelen Als we een toevalsvariabele X lineair transformeren, dan verandert de verwachte waarde (het populatie gemiddelde) µ X voorspelbaar. Regel 1: Regel : µ a+ bx = a + bµ X µ X +Y = µ X + µ Y a en b zijn vaste getallen (positief of negatief). In woorden:? 3

24 Voorbeeld: Verwachte waarde en transformaties Stressbestendigheid Psychologiestudenten. Op 3-puntsschaal X P(X) X P(X) weinig Y P(Y) Y P(Y) weinig veel Som.10 veel Som 5.0 Bereken de verwachte waarde µ van X Bereken de verwachte waarde µ van Y als Y = {3, 5, 7} Wat zijn de waarden van a en b? Klopt regel 1? 6

25 Voorbeeld: Verwachte waarde en transformaties Wat zijn de waarden van a en b? 7 5 y x µ = a + b µ Y X? 7

26 Variantie van een Toevalsvariabele Als modelmatig equivalent van s hebben we σ als maat voor de variantie in de populatie. σ X = ( x 1 µ ) X p 1 + ( x µ ) X p +L + ( x k µ ) X p k = ( x i µ ) X p i i σ is net als s een (gewogen) optelling van gekwadrateerde afwijkingen tot het gemiddelde. NB. Bij gelijke kansen voor elke waarde (uniforme verdeling) geldt dat p = 1/n. NB We delen nu niet door n 1, maar door n. 8

27 Voorbeeld: Stressbestendigheid vervolgd Stressbestendigheid Psychologiestudenten. Op 3-puntsschaal. Bepaal σ. X P(X) X P(X) X- µ X (X- µ X ) (X- µ X ) P(X) weinig veel Som

28 31 Varianties van Getransformeerde Variabelen Als we toevalsvariabelen lineair transformeren of combineren, dan is de variantie σ (en σ) van het resultaat voorspelbaar. 1: Regel X bx a σ = b σ + Regel : als X en Y onafhankelijk zijn dan ) ( Y X Y X Y X Y X Y X Y X σ σ σ σ σ σ σ σ σ + = + = = + = + + Regel 3: als X en Y niet onafhankelijk zijn dan y x xy Y X Y X σ σ ρ σ σ σ + + = + In woorden:?

29 Tot Besluit 1 Toeval: uitkomst onvoorspelbaar op individueel niveau, maar voorspelbaar en stabiel op collectief niveau. Kans: Maat voor het relatief voorkomen van uitkomsten of gebeurtenissen in de uitkomstenruimte. Voldoet aan aantal regels 3 Onafhankelijkheid: trials en events 4 Steekproeffluctuaties: Waarden (bijv. x) die een steekproef of een gerandomiseerd experiment beschrijven, gedragen zich als toevalsvariabelen. De toetsende statistiek gebruikt dit. 5 Vergelijkbaarheid: Regels voor µ en σ van variabelen die lineair getransformeerd zijn, zijn nuttig om resultaten te vergelijken (bijv. bij normeren van test of bij halveren van schaal) 3

30 Stof Volgende Week: Moore, McCabe & Craig, From Probability to Inference 3.3 Towards Statistical Inference 5.1 Sampling Distributions for Counts and Proportions 5. The Sampling Distribution of a Sample Mean SPSS practicum deze week: werken met waarden van series variabelen rekenen met random variabelen Kennistoetsjes starten deze week weer 33